Българин, работил дълго за OpenAI, уличи Сам Алтман в лъжа
Изследователят Тодор Марков е експерт по изкуствен интелект. Той прекомерно, че шефът на OpenAI е с " невисок морал " и може би лъже за задачата на компанията
Изследователят Тодор Марков е един от ветераните в AI промишлеността. Българинът е разработвал изкуствен интелект за OpenAI от 2018 до 2024 година. Той напуща колосът и се причислява към учредена от други някогашни чиновници на OpenAI компания Anthropic. Причината? Тодор Марков уличава Сам Алтман в неистина и " невисок морал ".
Марков, дружно с още 11 някогашни чиновници на OpenAI, публикуват правен документ, уличаващ Алтман в неистина, оповестява Futurism.
Документът ще е част от делото на Илон Мъск против преобразуването на OpenAI в комерсиална компания за облага. Засега OpenAI е завършена като организация с идеална цел, само че Сам Алтман желае да промени това.
Каква е лъжата на Алтман?
Шефът на OpenAI е излъгал относно така наречен " клаузи за неочерняне " (non-disparagement agreements), които чиновниците били принуждавани да подписват още при започване на работата си.
Миналата година Марков открива, че съществува такава уговорка, която на практика принуждава напускащите чиновници в никакъв случай да не подлагат на критика OpenAI, в случай че желаят да запазят дяловете си в компанията на стойност милиарди долари.
По време на обща среща на целия екип по отношение на противоречивата уговорка, Алтман декларирал, че не знаел за съществуването ѝ. Но изтекли документи демонстрират, че самият той я е одобрил.
Както изяснява Марков в декларацията си, този случай го убедил, че Алтман е човек с невисок морал, който умишлено е излъгал служителите относно ограничаващите клаузи.
Фасаден правилник
Според това значи, че Алтман доста евентуално лъже и по други значими въпроси, в това число уговорката на OpenAI към основаването на безвреден неестествен общ разсъдък (AGI).
В устава си OpenAI дава обещание, че ще употребява въздействието си върху развиването на AGI, с цел да подсигурява, че то ще служи в интерес на цялото човечество, и че ще заобикаля приложения, които биха навредили на хората или биха концентрирали прекалено много власт.
Според Марков обаче това заричане се оказало празно:
" Осъзнах, че Уставът е бил употребен като димна завеса - нещо, с което да се притеглят и задържат идеалистично настроени гении, без действително да лимитира растежа на OpenAI или устрема ѝ към AGI. "
От OpenAI оповестиха, че биха се отказали от подробните прегледи на сигурността на моделите си, в случай че конкуренцията направи същото.
Подобно на Илон Мъск, Марков има вяра, че опитите на Алтман да преобразува OpenAI в комерсиална компания за облага демонстрират, че уставът и задачата са били използвани като фасада, с цел да се манипулират чиновниците и публичното мнение.
За разлика от Мъск обаче, който е милиардер и съосновател на OpenAI, Марков не желае да купува нищо - той просто желае гласът му да бъде чут.
Изследователят Тодор Марков е един от ветераните в AI промишлеността. Българинът е разработвал изкуствен интелект за OpenAI от 2018 до 2024 година. Той напуща колосът и се причислява към учредена от други някогашни чиновници на OpenAI компания Anthropic. Причината? Тодор Марков уличава Сам Алтман в неистина и " невисок морал ".
Марков, дружно с още 11 някогашни чиновници на OpenAI, публикуват правен документ, уличаващ Алтман в неистина, оповестява Futurism.
Документът ще е част от делото на Илон Мъск против преобразуването на OpenAI в комерсиална компания за облага. Засега OpenAI е завършена като организация с идеална цел, само че Сам Алтман желае да промени това.
Каква е лъжата на Алтман?
Шефът на OpenAI е излъгал относно така наречен " клаузи за неочерняне " (non-disparagement agreements), които чиновниците били принуждавани да подписват още при започване на работата си.
Миналата година Марков открива, че съществува такава уговорка, която на практика принуждава напускащите чиновници в никакъв случай да не подлагат на критика OpenAI, в случай че желаят да запазят дяловете си в компанията на стойност милиарди долари.
По време на обща среща на целия екип по отношение на противоречивата уговорка, Алтман декларирал, че не знаел за съществуването ѝ. Но изтекли документи демонстрират, че самият той я е одобрил.
Както изяснява Марков в декларацията си, този случай го убедил, че Алтман е човек с невисок морал, който умишлено е излъгал служителите относно ограничаващите клаузи.
Фасаден правилник
Според това значи, че Алтман доста евентуално лъже и по други значими въпроси, в това число уговорката на OpenAI към основаването на безвреден неестествен общ разсъдък (AGI).
В устава си OpenAI дава обещание, че ще употребява въздействието си върху развиването на AGI, с цел да подсигурява, че то ще служи в интерес на цялото човечество, и че ще заобикаля приложения, които биха навредили на хората или биха концентрирали прекалено много власт.
Според Марков обаче това заричане се оказало празно:
" Осъзнах, че Уставът е бил употребен като димна завеса - нещо, с което да се притеглят и задържат идеалистично настроени гении, без действително да лимитира растежа на OpenAI или устрема ѝ към AGI. "
От OpenAI оповестиха, че биха се отказали от подробните прегледи на сигурността на моделите си, в случай че конкуренцията направи същото.
Подобно на Илон Мъск, Марков има вяра, че опитите на Алтман да преобразува OpenAI в комерсиална компания за облага демонстрират, че уставът и задачата са били използвани като фасада, с цел да се манипулират чиновниците и публичното мнение.
За разлика от Мъск обаче, който е милиардер и съосновател на OpenAI, Марков не желае да купува нищо - той просто желае гласът му да бъде чут.
Източник: dnesplus.bg
КОМЕНТАРИ