Преди 12 месеца би било немислимо свалянето на Сам Алтман

...
Преди 12 месеца би било немислимо свалянето на Сам Алтман
Коментари Харесай

Как Сам Алтман засенчи ефективния алтруизъм, разделящ Силициевата долина

Преди 12 месеца би било немислимо свалянето на Сам Алтман OpenAI да се трансформира в световна вест, съпоставя с именитото уволняване на Стив Джобс от Apple, само че ето ни тук.

След пет дни корпоративна драма, каквато софтуерната промишленост не е виждала от процеса против Сам Банкман-Фрийд, в този момент главният въпрос е какво е бъдещето на общественото придвижване, известно като ефикасен алтруизъм (което, междудругото, някогашният криптобос и създател на FTX също подкрепяше).

През последните няколко години въпросното придвижване разделя чиновници и ръководители на свързани с изкуствения разсъдък компании в Силициевата котловина.

Трусът в OpenAI, и по-конкретно триумфалното завръщане на Сам Алтман на поста основен изпълнителен шеф след неочакваното му премахване, нанесе нов удар на ефикасните алтруисти, които имат вяра, че деликатно направените системи с изкуствен интелект, подготвени с верните човешки полезности, ще доведат до Златен век. В противоположен случай може да има апокалиптични последствия.

Стартъпът OpenAI, който пусна ChatGPT преди година, е образуван частично на правилата на този ефикасен алтруизъм - необятна обществена и морална философия, която въздейства върху изследователската общественост на AI в Силициевата котловина и отвън нея, показва The Wall Street Journal.

Някои почитатели на придвижването живеят в частни групови домове, където разискват хрумвания, вземат участие във метафизичен диспути или играят шах за четирима. Движението включва хора, отдадени на правата на животните и изменението на климата, черпейки хрумвания от рационалистични философи, математици и предсказатели на бъдещето, споделя WSJ.

Подсилени от стотици милиони долари дарения от софтуерни колоси, ефикасните алтруисти имат вяра, че стремглавото спускане към изкуствения разсъдък може да унищожи човечеството. Те избират сигурността пред скоростта за създаване на AI.

Движението, което включва хора, помогнали за оформянето на взрива на генеративния изкуствен интелект, споделя вярата в правенето на положително – даже в случай че това значи просто да се вършат доста пари, които да се дават на почтени реципиенти, разяснява още WSJ.

Според източници на изданието, Алтман, който беше уволнен от OpenAI предишния петък, се e сблъскал с основния академик на компанията и член на борда Иля Суцкевер по проблеми, свързани с сигурността на изкуствения разсъдък, които отразяват опасенията на  ефективните алтруисти.

В преврата против Алтман участваха още членовете на борда Таша Макколи, член и на борда на благотворителната организация за ефикасен алтруизъм Effective Ventures, и Хелън Тонер, изпълнителен шеф в Центъра за сигурност и нововъзникващи технологии на университета в Джорджтаун, подкрепян от филантропи, отдадени на дела, свързани с ефикасния алтруизъм. Те съставляват три от четирите гласа, нужни за свалянето на Алтман.

Компанията разгласи в сряда, че Алтман ще се върне като основен изпълнителен шеф, а Суцкевер, Макколи и Тонер ще бъдат заменени. Емет Шиър, софтуерен изпълнителен шеф, подкрепящ забавянето на развиването на AI и назначен като краткотраен изпълнителен шеф, отпада от управническия екип.

Уволнението на Алтман провокира протест в компанията, който заплаши бъдещето на OpenAI. Повече от 700 от към 770 чиновници приканиха за неговото връщане и заплашиха да се трансферират към Microsoft, най-големият вложител на OpenAI. Суцкевер сподели в понеделник, че съжалява за дейностите си.

„ Религията на членовете на борда на OpenAI, основана на ефикасен алтруизъм, и нейното погрешно приложение можеха да върнат спрат пътя на света към големите преимущества на изкуствения разсъдък “, написа рисковият капиталист и вложител в OpenAI Винод Хосла в мнение за The Information.

Алтман обиколи света тази пролет, предупреждавайки, че AI може да аргументи съществени вреди. Той обаче назова ефикасния алтруизъм „ необикновено неправилно придвижване “, което демонстрира „ доста необичайно държание “.

Общността на ефикасния алтруизъм е похарчила големи суми за поощряване на концепцията, че AI съставлява екзистенциален риск, само че стартирането на ChatGPT притегли необятно внимание към това какъв брой бързо е напреднала технологията, споделя Скот Ааронсън, компютърен академик в Тексаския университет в Остин, който работи по сигурността на AI в OpenAI. Изненадващите благоприятни условия на чатбота разтревожиха хората, които преди този момент отхвърляха всевъзможни мотиви за опасения, разяснява той.

Движението на ефикасните алтруисти се популяризира измежду армии от учени в софтуерната промишленост, вложители и ръководители, които се надпреварват да основат AI системи, които да имитират и в последна сметка да надминат човешките качества. AI може да донесе световен разцвет, само че първо би трябвало да бъде предотвратена опцията да сее безпорядък, съгласно членовете на придвижването.

Гугъл и други компании се пробват да са измежду първите, които внедряват AI системи, които могат да подхождат на човешкия мозък. Те значително преглеждат изкуствения разсъдък като инструмент за прогрес във връзка с продуктивността в стопанските системи.

Сред високопоставените поддръжници на придвижването са Дъстин Московиц, съосновател на Фейсбук, и Ян Талин, милиардерът, създател на Skype, дали обещание милиарди долари за проучвания в областта на ефикасния алтруизъм. Преди падението си Сам Банкман-Фрийд също беше заречен милиарди за придвижването. Илон Мъск назова изявленията на съоснователя на ефикасния алтруизъм Уилям Макаскил „ близки до моята философия “.

Марк Андресен, съосновател на компанията за рисков капитал Andreessen Horowitz, и Гари Тан, основен изпълнителен шеф на стартъп инкубатора Y Combinator, подлагат на критика придвижването. Тан го назовава несъществена философия, парадираща за нравственост, която би трябвало да бъде изоставена, с цел да бъдат позволени действителни проблеми.

Страхът измежду ефикасните алтруисти, че AI ще унищожи човечеството, „ замъглява способността им да одобряват рецензии отвън своята просвета “, разяснява Шазеда Ахмед, който управлява екип от Принстънския университет, изследващ придвижването. „ Това не е добре за никоя общественост, която се пробва да реши някакъв изострен проблем. “

Не единствено скорошните разтърсвания в OpenAI разкриват подмолната конкуренция в Силициевата котловина сред хора, които имат вяра в пазарите, и ефикасните алтруисти.

Дарио Амодей, най-хубавият откривател на OpenAI, се отделя от компанията при започване на 2021 година, с цел да започва с други нейни някогашни чиновници Anthropic – AI проучвателен план, надъхан другарски към придвижването.

Тогава Банкман Фрийд е един от най-големите вложители в Anthropic, подкрепящ задачата на компанията, която декларира, че избира сигурността на AI пред растежа и облагите.

Страхът от футуристичните AI системи обаче не е спрял даже тези, които се тормозят за сигурността, да се пробват да изградят неестествен общ разсъдък или AGI -усъвършенствани системи, които подхождат или надминават човешкия мозък.

WSJ споделя, че на празничното празненство на OpenAI предишния декември Иля Суцкевер се е обърнал към стотици чиновници и техните посетители в Калифорнийската академия на науките в Сан Франциско, близо до музей с препарирани зебри, антилопи и лъвове, казвайки:

„ Нашата цел е да създадем филантроп AGI. “

А по-късно е добавил: „ Почувствайте AGI. Повтаряйте след мен. Почувствайте AGI… “

Ефективните алтруисти споделят, че могат да изградят по-безопасни AI системи, тъй като са подготвени да влагат в това, което назовават привеждане в сходство. Това значи да са сигурни, че чиновниците могат да управляват технологията, която основават, и да подсигуряват, че тя подхожда на набор от човешки полезности. Досега нито една компания за изкуствен интелект не е споделила какви би трябвало да бъдат тези полезности.

По този мотив Хосе Ернандес-Орало, професор по изкуствен интелект във Валенсианския проучвателен институт за изкуствен интелект, показва, че няма съществени доказателства за това, че свръхумните хора (съответно машините, направени по тяхно подобие) са по-малко склонни да правят закононарушения.

OpenAI неотдавна съобщи, че ще посвети една пета от своите изчислителни запаси през идващите четири години на така наречен развой superalignment, обвързван с въпросното сходство на технологията с човешките полезности. Екипът, управителен от Суцкевер, построява и „ академик “, произхождащ от AI, който може да организира проучвания върху AI системи, съгласно източници на WSJ.

Изданието цитира и разочаровани чиновници, съгласно които фокусът върху AGI и така наречен привеждане в сходство е оставило по-малко запаси за решение на по-неотложни проблеми, като корист от разработчици и измами, които биха могли да повлияят на изборите през 2024 година Те споделят, че несъответствието в ресурсите отразява въздействието на ефикасния алтруизъм.

Въпреки че OpenAI основава автоматизирани принадлежности за хващане на злоупотреби, стартъпът не е наел доста откриватели за тази работа, съгласно източниците на WSJ, осведомени с компанията.

Все отново неотдавна компанията е привлякла чиновник, който да прегледа ролята на технологията на OpenAI в изборите през 2024 година, защото специалисти предизвестяват за капацитета генерираните от изкуствен интелект изображения да подвеждат гласоподавателите.

„ Ние сме компания, ръководена от полезности, отдадена на построяването на безвреден, потребен AGI и ефикасният алтруизъм не е един от тях “, споделят от OpenAI след публикуването на публикацията на The Wall Street Journal. „ Имаме екипи, отдадени на проучването на краткосрочни опасности като киберсигурност, икономическо влияние и привеждане на системите в сходство с човешките полезности “, прибавят от OpenAI.

WSJ показва в обявата си, че разделяне има и в Гугъл. Тазгодишното сливането на двете звена за изкуствен интелект – DeepMind и Гугъл Brain – е провокирало диспути  относно това по какъв начин се ползват правилата на ефикасен алтруизъм, съгласно сегашни и някогашни чиновници.

Съоснователят на DeepMind Демис Хасабис, който от дълго време е наел хора, свързани с придвижването, дава отговор за слетите звена.

Служители на Гугъл Brain споделят, че значително са пренебрегнали ефикасния алтруизъм и вместо това изследват практическите приложения на изкуствения разсъдък и евентуалната корист с AI принадлежности, съгласно източниците на WSJ.

На този декор марката Сам Алтман е по-силен от всеки път.

Свързвайки личността си с OpenAI, Сам Алтман стана лицето на взрива на генеративния AI. Неговото премахване, което провокира вътрешни митинги, издигна статута му още повече, показва в собствен коментар Fast Company.

Преди трагичното завръщане на Сам Алтман като основен изпълнителен шеф на OpenAI победител в цялата неразбория изглеждаше Microsoft. Технологичният колос съобщи, че е наел Алтман да оглави AI лабораторията му за изкуствен интелект и че ще продължи партньорството си с OpenAI.

Само ден по-късно стана ясно, че най-големият подтик в имиджа си получава самия Алтман. Реакцията на първичното му уволняване сподели ясно, че марката OpenAI е неразривно обвързван с този на своя съосновател и основен изпълнителен шеф. Уволнението му – изключително в метода, по който беше направено и неналичието на детайлности към него – сложи компанията на животоподдържащи системи, когато над 700 чиновници подписаха писмо, в което заплашиха да изоставен, в случай че Алтман не бъде възобновен.

Междувременно той получаваше похвали от софтуерни светила, бизнесмени и други играчи в областта на изкуствения разсъдък.

В петък някогашният основен изпълнителен шеф на Гугъл Ерик Шмид написа в X: „ Сам Алтман е моят воин. Той построи компания от нищото до стойност от 90 милиарда $ и промени нашия свят вечно. Нямам самообладание да видя каква е идната му стъпка. Аз и милиарди хора ще се възползваме от бъдещата му работа – ще бъде просто необикновено. ”

В неделя съоснователят и основен изпълнителен шеф на Airbnb Брайън Чески добави: „ Гордея се със Сам и Грег. През последните 36 часа те бяха изправени пред голям напън и дадоха отговор с берекет и обич. “

На това съоснователят на Reddit Алексис Оханян отговори: „ Наистина. Лидерите се изпитват в огън. “

В собствен коментар The New York Times акцентира, че в последно време има пренасищане с не толкоз вдъхновяващи „ визионери “, измежду които Елизабет Холмс (Theranos), Адам Нойман (WeWork), Банкман-Фрийд (FTX) и продължаващата неразбория към Илон Мъск. За разлика от последния, Алтман е облик на великолепие и улегналост измежду хаоса, в никакъв случай не стартира борба и не демонстрира неспокойствие, само че и не мълчи, писа NYT.

Тези и още десетки похвали от по-малко известни бизнесмени и софтуерни водачи демонстрираха, че до момента в който цената марката OpenAI виси на косъм, тази на марката Сам Алтман може единствено да продължи да пораства.

Предстои да забележим какво ще е бъдещето на ефикасните алтруисти и тяхното въздействие. Силата на религията евентуално зависи от това в каква посока ще продължи OpenAI с още по-силния Сам Алтман отпред.
Източник: profit.bg

СПОДЕЛИ СТАТИЯТА


Промоции

КОМЕНТАРИ
НАПИШИ КОМЕНТАР