Бившият изследовател на OpenAI Уилям Сондърс приравни дейността на компанията с потъването на кораба Титаник
Бивш откривател на OpenAI споделя, че е напуснал компанията, откакто е схванал, че тя оставя сигурността на назад във времето, с цел да преследва бърза облага. Бившият член на екипа на Superalignment Уилям Сондърс направи разкритието в подкаста на Алекс Кантровиц.
" По време на трите ми години в OpenAI от време на време си задавах въпрос. Дали пътят, по който вървеше OpenAI, приличаше повече на програмата Аполо или повече на Титаник? "
Сондърс твърди, че Титаник може да е бил именуван " непотопяем, само че в това време не е имало задоволително избавителни лодки за всички и по този начин, когато бедствието въпреки всичко се случва, броя на починалите е непропорционално висок ".
Бившият чиновник упрекна OpenAI, че " колосът дава приоритет на извеждането на по-нови, по-лъскави артикули " точно както е правила преди към век към този момент несъществуващата английска корабна компания White Star Line.
Неговите мнения акцентират възходящата угриженост към създаването на повсеместен изкуствен интелект (AGI) - нещо, което сега остава напълно теоретично, само че е източник на огромен интерес за OpenAI и Сам Алтман.
Ангажиментът на OpenAI към сигурността също е неустойчив, що се отнася до непрестанно изменящата се корпоративна конструкция. По-рано тази година основният изпълнителен шеф на OpenAI Сам Олтман разгласи, че разпуска екипа на Superalignment, насочен към сигурността - част от който в миналото е бил Сондърс, написа dir.bg.
Алтман твърди през цялото време, че желае да осъществя AGI по безвреден метод. Спроед критиците обаче компанията играе бързо и свободно с разпоредбите и дава приоритет на стартирането на нови чатботове. Освен това тя е набрала съществени вложения и има партньорства за милиарди долари с софтуерни колоси като Microsoft.
" Не е допустимо да се създаде AGI или каквато и да е нова технология с нулев риск " , прибавя Сондърс в имейл до Business Insider. Той показва, че програмата Аполо също е имала пропуски в сигурността.
" Това, което бих желал да видя, е компанията да предприеме всички вероятни рационални стъпки, с цел да предотврати тези опасности. "
