Поредицата от оставки в OpenAI продължава: ключов специалист по сигурността на AI напусна
Един от основните чиновници на OpenAI, Лилиан Венг (Lilian Weng), разгласи своята оставка. Венг работи за компанията в продължение на 7 години като началник на системите за развиване на сигурността и беше нараснал през август тази година. В изказване в платформата X (Twitter) тя означи, че напуща OpenAI, с цел да „ стартира изначало и да опита нещо ново “.
Според TechCrunch, последният работен ден на Венг ще бъде 15 ноември, само че тя не разгласи бъдещите си проекти. „ Взех извънредно сложното решение да напусна OpenAI “ — признава Венг. „ Поглеждайки обратно към това, което сме постигнали, аз съм доста горда с всеки член на екипа на системите за сигурност и съм изцяло уверена, че екипът ще продължи да процъфтява. “
Венг не е единственият експерт, напуснал компанията. Изследователи и ръководители по сигурността напуснаха през миналата година, обвинявайки компанията, че дава приоритет на комерсиалните артикули пред сигурността на AI. По-рано тази година Иля Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike) — ръководители на разпуснатия екип на Superalignment, който разработваше методите за ръководство на суперинтелигентните AI-системи, напуснаха OpenAI.
Венг се причислява към OpenAI през 2018 година, започвайки кариерата си в екипа по роботика, който основава роботизирана ръка, можеща да подреди кубчето на Рубик за секунди. С прехода на OpenAI към парадигмата на GPT, Венг се причисли към екипа на Applied AI Research през 2021 година След стартирането на GPT-4 през 2023 година тя управлява екипа за развиване на сигурността, който се състои от над 80 души.
OpenAI споделя, че управлението търси да размени Венг. „ Дълбоко ценим приноса на Лилиан за революционните проучвания в региона на сигурността и основаването на мощна техническа гаранция “ — сподели представител на OpenAI в изказване. „ Уверени сме, че екипът по системите за сигурност ще продължи да играе основна роля в обезпечаването на надеждността на нашите системи, обслужващи стотици милиони хора по света. “
Струва си да се означи, че през октомври Майлс Бръндидж (Miles Brundage), който работи върху политиката за AI, напусна компанията, след което OpenAI разгласи разпускането на екипа на AGI (изкуствен общ интелект). В същия ден, New York Times разгласява изявление с някогашния откривател на OpenAI Сучир Баладжи (Suchir Balaji), който сподели, че също е напуснал компанията, тъй като счита, че нейната технология ще аргументи повече щета, в сравнение с изгода на обществото.
