В обширен материал The New Yorker поставя въпроса, който вече

В просторен материал The New Yorker слага въпроса, който към този момент не стои единствено в софтуерните и политическите среди, а визира всеки от нас: можем ли да се доверим на Сам Алтман - индивида, който оформя бъдещето ни посредством изкуствения разсъдък?

Самюъл „ Сам “ Алтман е американски бизнесмен и вложител, най-известен като съосновател и основен изпълнителен шеф на OpenAI. Той остава централна фигура в развиването на технологията макар възходящите подозрения, вътрешни спорове и публичен напън към посоката, в която тя се развива.

През есента на 2023 година научният шеф на OpenAIИля Сутскевер изпраща серия от секрети известия до трима членове на борда на шефовете. В продължение на седмици те водят дискретни диалози дали Сам Алтман и неговият заместител Грег Брокман са подобаващи да ръководят компанията.



Сутскевер не е външен човек. До този миг той счита и двамата за близки хора. През 2019 година даже води сватбата на Брокман в офисите на OpenAI – гала, в която пръстените са поднесени от роботизирана ръка.

С напредването на разработките и чувството, че компанията се доближава до основаването на изкуствен интелект, кадърен да се изравни или даже да надмине човешките когнитивни качества, подозренията му стартират да порастват.

„ Не мисля, че Сам е индивидът, на който би трябвало да бъде поверена толкоз доста власт “, споделя той на различен член на борда.

По гледище на част от членовете на борда Сутскевер стартира да събира доказателства дружно с сътрудници, които споделят опасенията му. Така се оформя досие от към 70 страници – вътрешни диалози в Slack, HR документи и обяснителни бележки. Част от материалите са снимани с телефон, евентуално с цел да не бъдат засечени в системите на компанията.

Той изпраща финалните материали до членовете на борда посредством известия, които се изтриват автоматизирано.

„ Беше изплашен “, споделя по-късно един от получателите.

Документите, които до момента не са оповестени в цялостен тип, съдържат съществени обвинявания: че Сам Алтман е подвеждал управлението и е давал погрешна информация за вътрешните протоколи за сигурност.



Много софтуерни компании приказват за това по какъв начин ще създадат света по-добър, а на процедура се концентрират върху растежа и облагата. OpenAI е основана с претенцията да бъде друга.

Основателите ѝ Сам Алтман, Иля Сутскевер, Грег Брокман и Илон Мъск са обединени към концепцията, че изкуственият разсъдък може да се окаже най-мощното и евентуално най-опасното откритие в историята.

Затова компанията е основана като организация с нестопанска цел, в която бордът би трябвало да слага сигурността на човечеството над триумфа на самата компания – даже над нейното оцеляване.

В този модел основният изпълнителен шеф би трябвало да бъде човек с изключителна честност.

„ Всеки, който работи върху технология, способна да промени цивилизацията, носи голяма отговорност “, споделя Иля Сутскевер. Но, прибавя той, хората, които доближават до такива позиции, постоянно са привлечени от властта.

В един от документите той предизвестява, че контролът може да попадне в ръцете на човек, който просто споделя на близките това, което желаят да чуят.

Ако основният изпълнителен шеф не е благонадежден, бордът има правото да го в профил.

За част от членовете му – измежду които Хелън Тонър и Таша Макколи – тези материали удостоверяват към този момент завършено разбиране: ролята на Алтман му дава въздействие върху бъдещето на човечеството, само че доверието в него липсва.

Уволнението, което раздруса OpenAI

През ноември 2023 година, когато Сам Алтман е в Лас Вегас за съревнование от Формула 1, научният шеф на OpenAIИля Сутскевер го кани на видеоразговор с борда. На него му е обявено, че е освободен от поста си.

Хелън Тонър и Таша Макколи, които поддържат решението, са измежду най-активните гласове за по-строг надзор върху развиването на изкуствения разсъдък и за по-голяма бистрота в компанията.

Официалното пояснение е малко: Алтман „ не е бил поредно прям в връзката си “.

Зад тази дефиниция стоят насъбрани подозрения – в това число за метода, по който се вземат решения към сигурността на моделите и каква информация доближава до борда. Именно това кара част от шефовете да стигнат до извода, че Салман не може да бъде оставен отпред.

Решението идва ненадейно и без предизвестие към вложителите. Microsoft, вложила към 13 милиарда $ в OpenAI, научава за него минути преди да стане обществено. „ Бях извънредно сюрпризиран “, споделя изпълнителният шеф Сатя Надела. Заедно с вложителя Рийд Хофман те търсят съответно нарушаване, само че не откриват ясно дефинирано такова.

Алтман се връща в Сан Франциско и стартира да провежда отговора си. Около него бързо се образува кръг от съдружници, измежду които са Брайън Чески, основен изпълнителен шеф на Airbnb, както и информационният пълководец Крис Лихейн.



Браян Чески

В рамките на дни се построява координирана акция за завръщане – както вътре в компанията, по този начин и обществено.

В тази версия уволнението е показано не като управническо решение, а като опит за вътрешен прелом от страна на хора, свързани с така наречен ефикасен алтруизъм – течение, което преглежда изкуствения разсъдък като евентуална екзистенциална опасност и упорства за по-бавен и следен прогрес.

Завръщането на Сам Алтман за пет дни

В часовете след уволнението стартира координирана акция за връщането на Сам Алтман. Ключови вложители замразяват покупко-продажби и дават явен сигнал: бъдещето на OpenAI е обвързвано с неговото наличие.

Microsoft даже афишира, че е подготвена да сътвори ново звено към него, в случай че напусне дружно със чиновници. Вътре в компанията стартира да циркулира писмо с искане за незабавното му възобновяване на поста. Повечето чиновници го подписват, а част от тях непосредствено заплашват да изоставен.

Бордът е притиснат. Вариантите се свеждат до два: да анулира решението или да рискува разпад на компанията.

Междувременно съдружниците на Алтман търсят метод да завоюват и Иля Сутскевер. Натискът е както обществен, по този начин и персонален. В последна сметка самият Сутскевер признава, че без Алтман OpenAI може да не оцелее.

По-малко от пет дни след уволнението Алтман е възобновен като основен изпълнителен шеф.

Случаят остава в историята на компанията като „ Blip “ – къс миг на спиране, след който всичко наподобява същото, само че доверието към този момент е разтърсено.

Цената обаче е висока. Иля Сутскевер, Хелън Тонър и Таша Макколи губят местата си в борда. Новият състав е образуван с присъединяване на хора, близки до Алтман, а настояванията за без значение следствие остават без явен обществен резултат.

Обещанията за бъдещето

Сам Алтман израства в Клейтън, щата Мисури, и учи в частно учебно заведение, преди да постъпи в Stanford University. Още в ранните му планове сътрудници виждат податливост да преувеличава – да показва бъдещи хрумвания като към този момент осъществени. За някои това е част от предприемаческата убеденост, за други – сигнал за размиване сред допустимо и действително.

Алтман построява въздействието си освен посредством решенията в OpenAI, а и посредством метода, по който приказва за бъдещето. В собствен текст от 2024 година той разказва свят, в който „ забележителни пробиви – като решаването на климатичната рецесия, основаването на галактически колонии или разкриването на всички закони на физиката – ще се трансфорат в нещо всекидневно “.



Тази визия върви ръка за ръка с невиждани вложения. Развитието на изкуствения разсъдък се поддържа от големи финансови запаси, а стопанската система от ден на ден се концентрира към дребен брой компании с голямо въздействие.

Самият Алтман също позволява риска от прегряване на бранша. „ Някой ще загуби голямо количество пари “, споделя той пред кореспонденти – предизвестие, че темпото на вложения може да се окаже неустойчиво. Ако това се случи, резултатът няма да се ограничи единствено до софтуерния пазар.

На този декор остава и въпросът за доверието. След уволнението си Алтман е притиснат от членове на борда да признае модел на подвеждащо държание. Според участници в диалозите той споделя, че „ не може да промени характера си “. По-късно отхвърля тази интерпретация и изяснява дейностите си като опит да заобикаля спорове и да балансира разнообразни ползи.

Разминаването сред тези версии остава нерешено. За едни това е въпрос на жанр на ръководство в среда на извънреден напън. За други – сигнал за нещо по-дълбоко, което слага под подозрение дали толкоз доста власт може да бъде поверена на един човек.

Днес Алтман управлява една от най-влиятелните компании в света, само че самичък признава, че ролята е станала доста по-тежка. „ Това беше най-забавната работа на света – досега, в който пуснахме ChatGPT “, споделя той. Оттогава решенията стават все по-трудни – и все по-важни.

Именно по тази причина тежат и рецензиите на хора като Дарио Амодей – един от основните откриватели в ранната история на OpenAI, работил по GPT-2 и GPT-3 и свързван с метода RLHF (обучение посредством човешка противоположна връзка – метод, при който хора правят оценка отговорите на модела, с цел да се насочва държанието му).



През 2021 година той напуща компанията дружно със сестра си Даниела и други сътрудници поради опасения към сигурността на AI и засилващия се търговски напън върху развиването му, а по-късно основава Anthropic – компанията зад Claude.

Тя се пробва да резервира по-строги ограничавания върху потреблението на изкуствения разсъдък, в това число отвод да взе участие в създаването на изцяло самостоятелни оръжия или системи за всеобщо наблюдаване.

Тази позиция обаче влиза в пряк спор с държавните ползи. В началото на 2025 година Пентагонът слага ултиматум на Anthropic да отстрани част от рестриктивните мерки си, с цел да продължи съдействието. Компанията отхвърля – и е извадена от основни военни планове.

На този декор съперниците работят по друг метод. OpenAI бързо заема освободеното място, като подписва договорка за консолидиране на своите модели в инфраструктурата на американските отбранителни системи.

·