Книга | Идващата вълна на М.Сюлейман: В търсене на мирно съжителство с AI
Цивилизацията не може да избяга от метафорите за прииждащи талази и паниките на оцеляването. Сега на ред е изкуственият разсъдък. Съоснователят на една от първите лаборатории DeepMind, Мустафа Сюлейман, създател на " Идващата вълна ", е следващият инсайдер, който приканва да свалим розовите очила. (DeepMind Technologies е основана 2010 година, купена от Гугъл през 2014 година Сюлейман е съосновател и на Inflection AI през 2022).
Миналото подсказва, че мъчно предвиждаме отрицателните резултати от напредъка. Бащите на Индустриалната гражданска война сигурно не са се замисляли за пакостите върху климата . Десетина генерации по-късно надценихме компютърния взрив. Благосъстоянието набъбна, само че се разтвори и ножицата на неравенството. Социалните мрежи дадоха обещание работлив продан на хрумвания, само че се заиграха с страстите, настъпвайки педала на поляризацията. Освен късоглед оптимизъм, има и друга реакция: пред заплаха с дестабилизиращ резултат, чиято съвестност стряска, извръщаме глава. Попадаме в клопката на " нетърпимостта към скептицизъм ". Една от задачите на книгата е да срещнем неприятни истини.
Оркестър без диригент
" Прекарайте известно време в кръга на техничари или политици, и бързо ще ви стане ясно, че зариването на главата в пясъка е дежурната идеология, " написа Сюлейман. Казва, че сферата на АI в този момент припомня на " оркестър без диригент ": няма консенсус какви модели да се развиват, кой да го прави и с каква цел. Междувременно първата среща на държавни водачи за сигурност на AI се състоя във Англия по-рано през ноември. Сюлейман беше измежду поканените. Предстои да забележим дали концепциите му намират отзив.
Първата среща на държавни водачи за сигурност на AI се състоя във Англия по-рано през ноември. Предстои да забележим резултатите. Източник: Reuters
Той предлага метод към въздържане на нездравословните последствия (containment) от разпространяването на изкуствения разсъдък. Целта е екзистенциална: контролът би подсигурил оцеляването ни. АI задвижва цунами и рог на изобилието по едно и също време - от дезинформация, пагубни патогени, терористични офанзиви, разтърсено психологично здраве, прекачване на власт от индивида към " машините " до невъобразим скок в добавената стойност, извоювана борба с заболявания и застаряване, за какво не и с неравновесията в климата. За първи път в историята работим с технология, която репликира човешката просветеност с най-хубавите и най-тъмните й страни, четем в " Идващата вълна ". Пътят сред крайностите няма да е лек: без ограничавания се движим към произшествия, само че задушаващите отбрани строят властнически ред, предизвестява Сюлейман.
Реклама
Подобно на футуролози и икономисти, той възприема напредъка като талази, задвижвани от нововъведения. Хомо сапиенс обича технологиите: оказват помощ на оцеляването и натрупат благосъстояние. Огънят, парната машина, интернет са образци за технологии с общо предопределение - работят като клъстери, към които се основават нови производства. Колкото по-мащабна е тази свързаността, толкоз по-бързо е усъвършенстването и разрастването на вълните.
Така историята на напредъка е история на ускорението. Процесът не е равномерен, а скокообразен, безреден: скоростта криви картината и скрива рисковете. Докато през ХХ в. темпът на прогрес е оставял време да слагаме защитни колани, изкуственият разсъдък се развива по този начин стремглаво, че прозорецът за деяние бързо се затваря. Можем ли да бързаме, само че по-бавно? " Да оставим плодове на дървото и да отложим облагите, до момента в който (яденето) не е безвредно?, " пита Сюлейман.
Регулациите не са безусловно спирачка
Очаквано, той приветства опита на Европейския съюз за закон. Регулациите не работят безусловно като спирачка: ето, авиацията е измежду най-регулираните браншове, само че от десетилетия предлага най-безопасния превоз. Но по какъв начин да изберем кои опасности да отстраним, щом бъдещето е неразбираемо?
Да погледнем в сегашното. " Моделите на изкуствен интелект и в този момент демонстрират отклонения, непредвидени от основателите им, " написа Сюлейман. Обменът на информация сред производители, откриватели, контролиращи институции за " произшествия " би била стъпка в вярната посока. Лостовете за ръководство на риска в този момент са хлабави: технологията на изкуствения разсъдък надвишава способността ни да я разберем в елементи и следствени връзки (така както монтьорът, когато повдигне капака, знае по какъв начин работи двигателят), само че в това време сме способни да я сътворяваме и използваме. " GPT-4, AlphaGO** и останалите модели са черни кутии, техните артикули и решения - основани на мъглява и комплицирана мрежа от моментни сигнали. " Още парадокси? Размита отговорност: софтуерните компании поемат облаги и загуби, само че без гаранции за сигурност. Щетите се трансферират към обществото. По-старателно тестване на моделите и лицензиране на лабораториите ще обезвреждат ред рискове.
Реклама
За да са ефикасни защитните ограничения, е необходим световен консенсус. Правителствата усещат, че АI може да подяжда доверието и скапва демокрацията. Заплашени от ерозия във функционалностите на властта, в това число и отбрана на жителите, страните може да се съгласят да поукротят софтуерната конкуренция, даже и тя да дава обещание геополитически преимущества. Бизнесът ще се противи по-дълго на болката: на фирмите ще им се коства, че жертват част от облагата.
Човекът е любопитно създание. Изправя се пред необятни океани и непристъпни върхове, бута границите, напряга мускули, решен да вникне в тайните на Вселената, да променя света. Сладостта на откривателството е по този начин пленителна, че мъчно се стопира, с цел да преценя дали дава огъня на хората като Прометей или пуска несгоди на независимост като Пандора. До пет години ще съжителстваме със кадърен изкуствен интелект, съгласно " Идващата вълна ". За разлика от сегашните модели, той ще може да ръководи процеси, да генерира хрумвания. От автономността, която ще изберем да му дадем, ще зависи какво общуване желаеме в бъдеще. Ако заплахите не ни тревожат занапред, когато моделите станат по-умни от най-умните хора и се самоуправляват, ще е късно. Етичната и психическа алтернатива на Пандора и Прометей, по-всичко проличава, ще ни вълнува и отсега нататък.
* DeepMind Technologies е основана 2010 година, купена от Гугъл през 2014 година Мустафа Сюлейман е съосновател и на Inflection AI през 2022 година
**Програма на DeepMind Technologies, подготвена с невронни мрежи за стратегическата игра Го.
Миналото подсказва, че мъчно предвиждаме отрицателните резултати от напредъка. Бащите на Индустриалната гражданска война сигурно не са се замисляли за пакостите върху климата . Десетина генерации по-късно надценихме компютърния взрив. Благосъстоянието набъбна, само че се разтвори и ножицата на неравенството. Социалните мрежи дадоха обещание работлив продан на хрумвания, само че се заиграха с страстите, настъпвайки педала на поляризацията. Освен късоглед оптимизъм, има и друга реакция: пред заплаха с дестабилизиращ резултат, чиято съвестност стряска, извръщаме глава. Попадаме в клопката на " нетърпимостта към скептицизъм ". Една от задачите на книгата е да срещнем неприятни истини.
Оркестър без диригент
" Прекарайте известно време в кръга на техничари или политици, и бързо ще ви стане ясно, че зариването на главата в пясъка е дежурната идеология, " написа Сюлейман. Казва, че сферата на АI в този момент припомня на " оркестър без диригент ": няма консенсус какви модели да се развиват, кой да го прави и с каква цел. Междувременно първата среща на държавни водачи за сигурност на AI се състоя във Англия по-рано през ноември. Сюлейман беше измежду поканените. Предстои да забележим дали концепциите му намират отзив.
Първата среща на държавни водачи за сигурност на AI се състоя във Англия по-рано през ноември. Предстои да забележим резултатите. Източник: Reuters
Той предлага метод към въздържане на нездравословните последствия (containment) от разпространяването на изкуствения разсъдък. Целта е екзистенциална: контролът би подсигурил оцеляването ни. АI задвижва цунами и рог на изобилието по едно и също време - от дезинформация, пагубни патогени, терористични офанзиви, разтърсено психологично здраве, прекачване на власт от индивида към " машините " до невъобразим скок в добавената стойност, извоювана борба с заболявания и застаряване, за какво не и с неравновесията в климата. За първи път в историята работим с технология, която репликира човешката просветеност с най-хубавите и най-тъмните й страни, четем в " Идващата вълна ". Пътят сред крайностите няма да е лек: без ограничавания се движим към произшествия, само че задушаващите отбрани строят властнически ред, предизвестява Сюлейман.
Реклама
Подобно на футуролози и икономисти, той възприема напредъка като талази, задвижвани от нововъведения. Хомо сапиенс обича технологиите: оказват помощ на оцеляването и натрупат благосъстояние. Огънят, парната машина, интернет са образци за технологии с общо предопределение - работят като клъстери, към които се основават нови производства. Колкото по-мащабна е тази свързаността, толкоз по-бързо е усъвършенстването и разрастването на вълните.
Така историята на напредъка е история на ускорението. Процесът не е равномерен, а скокообразен, безреден: скоростта криви картината и скрива рисковете. Докато през ХХ в. темпът на прогрес е оставял време да слагаме защитни колани, изкуственият разсъдък се развива по този начин стремглаво, че прозорецът за деяние бързо се затваря. Можем ли да бързаме, само че по-бавно? " Да оставим плодове на дървото и да отложим облагите, до момента в който (яденето) не е безвредно?, " пита Сюлейман.
Регулациите не са безусловно спирачка
Очаквано, той приветства опита на Европейския съюз за закон. Регулациите не работят безусловно като спирачка: ето, авиацията е измежду най-регулираните браншове, само че от десетилетия предлага най-безопасния превоз. Но по какъв начин да изберем кои опасности да отстраним, щом бъдещето е неразбираемо?
Да погледнем в сегашното. " Моделите на изкуствен интелект и в този момент демонстрират отклонения, непредвидени от основателите им, " написа Сюлейман. Обменът на информация сред производители, откриватели, контролиращи институции за " произшествия " би била стъпка в вярната посока. Лостовете за ръководство на риска в този момент са хлабави: технологията на изкуствения разсъдък надвишава способността ни да я разберем в елементи и следствени връзки (така както монтьорът, когато повдигне капака, знае по какъв начин работи двигателят), само че в това време сме способни да я сътворяваме и използваме. " GPT-4, AlphaGO** и останалите модели са черни кутии, техните артикули и решения - основани на мъглява и комплицирана мрежа от моментни сигнали. " Още парадокси? Размита отговорност: софтуерните компании поемат облаги и загуби, само че без гаранции за сигурност. Щетите се трансферират към обществото. По-старателно тестване на моделите и лицензиране на лабораториите ще обезвреждат ред рискове.
Реклама
За да са ефикасни защитните ограничения, е необходим световен консенсус. Правителствата усещат, че АI може да подяжда доверието и скапва демокрацията. Заплашени от ерозия във функционалностите на властта, в това число и отбрана на жителите, страните може да се съгласят да поукротят софтуерната конкуренция, даже и тя да дава обещание геополитически преимущества. Бизнесът ще се противи по-дълго на болката: на фирмите ще им се коства, че жертват част от облагата.
Човекът е любопитно създание. Изправя се пред необятни океани и непристъпни върхове, бута границите, напряга мускули, решен да вникне в тайните на Вселената, да променя света. Сладостта на откривателството е по този начин пленителна, че мъчно се стопира, с цел да преценя дали дава огъня на хората като Прометей или пуска несгоди на независимост като Пандора. До пет години ще съжителстваме със кадърен изкуствен интелект, съгласно " Идващата вълна ". За разлика от сегашните модели, той ще може да ръководи процеси, да генерира хрумвания. От автономността, която ще изберем да му дадем, ще зависи какво общуване желаеме в бъдеще. Ако заплахите не ни тревожат занапред, когато моделите станат по-умни от най-умните хора и се самоуправляват, ще е късно. Етичната и психическа алтернатива на Пандора и Прометей, по-всичко проличава, ще ни вълнува и отсега нататък.
* DeepMind Technologies е основана 2010 година, купена от Гугъл през 2014 година Мустафа Сюлейман е съосновател и на Inflection AI през 2022 година
**Програма на DeepMind Technologies, подготвена с невронни мрежи за стратегическата игра Го.
Източник: capital.bg
КОМЕНТАРИ