Светът е в опасност“ – това бе краткото и остро

„ Светът е в заплаха “ – това бе късото и остро предизвестие на някогашния началник на екипа по сигурност в Anthropic, до момента в който напускаше поста си. Междувременно откривател от OpenAI, който също се раздели с компанията, съобщи, че

технологията има „ капацитета да манипулира потребителите по способи, които не можем даже да проумеем, камо ли да предотвратим. “

Те са част от възходяща вълна откриватели и мениджъри в бранша на изкуствения разсъдък (AI), които не просто напущат работа, само че и обществено бият паника за това, което дефинират като „ ярки предупредителни сигнали “, написа CNN в собствен материал.

Въпреки че Силициевата котловина е известна с огромното си текучество, сегашният отлив на фрагменти идва в сериозен миг. Лидери като OpenAI и Anthropic са в конкуренция за излизане на борсата (IPO) – ход, който би ускорил растежа им, само че и би ги сложил под безмилостен публичен и регулаторен надзор.
Етичната алтернатива на OpenAI
Зоуи Хитциг, откривател в OpenAI през последните две години, разгласи оставката си в есе за New York Times. Тя изрази „ дълбоки запаси “ по отношение на новата рекламна тактика на компанията. Според Хитциг големият списък от данни на ChatGPT – включващ персонални страхове, здравословни проблеми, интимни връзки и религиозни вярвания – е етичен капан. Потребителите се доверяват на чатбота, вярвайки, че той няма скрити претекстове, което го прави съвършен инструмент за операция.

Критиката ѝ съответства с новината, че OpenAI е разформировала екипа си за етично сходство – звено, основано да подсигурява, че стремежът към Общ изкуствен интелект (AGI) ще бъде в интерес на цялото човечество.
Загадъчното овакантяване на Anthropic
През същата седмица Мринанк Шарма, началник на екип в Anthropic, разгласява сбито писмо, в което разгласи решението си да си тръгне с думите „ светът е в заплаха “. Макар да не уточни съответна причина, той загатна за вътрешни спорове:

През цялото време тук неведнъж виждах какъв брой е мъчно да позволим на полезностите ни да управляват нашите дейности. “
Хаос в xAI на Илон Мъск
В компанията xAI обстановката е още по-драматична – двама съоснователи напуснаха в границите на едвам 24 часа. Това се случва в миг, когато компанията се слива със SpaceX, с цел да сътвори най-скъпата частна корпорация в света. Илон Мъск дефинира измененията като „ метаморфоза “, само че напусканията идват след световни кавги с чатбота Grok, който генерираше непристойно наличие и антисемитски мнения.
Безопасност против облаги
Напрежението сред откривателите, загрижени за сигурността, и мениджърите, гонещи доходи, става все по-видимо.

Скандалът с „ режима за възрастни “: Wall Street Journal заяви, че OpenAI е уволнила върховен управител по сигурността, Райън Бейърмайстер, откакто тя се противопоставила на въвеждането на порнографско наличие в ChatGPT. Официалният претекст на компанията за уволнението е „ дискриминация “ – обвиняване, което Бейърмайстер изрично отхвърля.

Тези оставки припомнят за отдръпването на Джефри Хинтън, „ Кръстникът на изкуствения разсъдък “, който напусна Гугъл в опит да предизвести за екзистенциалните опасности от AI. Той не крие опасенията си, че светът лека-полека се трансформира в място, където:

никой към този момент няма да може да разграничи истината от лъжата “.

Докато някои виждат в тези предизвестия действителен боязън, други подозират маркетингов трик за преувеличаване на мощта на технологията. Въпреки това, думите на основния изпълнителен шеф на HyperWrite, Мат Шумер, звучат смразяващо:

Разказваме ви какво към този момент се случи с нашите работни места и ви предизвестяваме – вие сте идващите. “
AI изкуствен интелект заплаха рискове