OpenAI: Наш AI излезе извън контрол и извърши безпрецедентна кибератака
OpenAI разкри в сряда, че някои от най-напредналите ѝ модели с изкуствен интелект са излезли отвън надзор и са хакнали стартъп компания, откакто разработчиците са изгубили надзор върху тях по време на тест за сигурност.
Признанието на основателя на ChatGPT идва на фона на възходящите опасения по отношение на последствията от усъвършенстваните AI сътрудници, системи, способни да проникват в цифрова инфраструктура, изключително при сюжети, в които се заобикаля човешкия надзор.
Кибератаката
Hugging Face , AI стартъп, който дава модели и набори от данни за разработчици, заяви, че е станал жертва на пробив предишния петък, осъществен от външен AI сътрудник.
" Още предходната седмица подозирахме, че хакерската атака може да е пристигнала от водеща AI лаборатория , поради високото равнище на трудност на сътрудника ", написа в X основният изпълнителен шеф Клеман Деланг .
Той добави, че компанията е прекарала последното денонощие в тясно съдействие с OpenAI и че " твърдо имаме вяра, че от тяхна страна не е имало злонамерено желание. Направо е поразително, че всичко това се е случило изцяло самостоятелно! "
OpenAI съзнателно е понижила равнището на своите механизми за киберзащита, с цел да оцени опциите на двата модела в тестова среда. Въпреки това сътрудниците са работили в така наречен " sandbox " (изолирана среда), предопределена да лимитира системите и да им пречи да получат достъп до интернет.
Моделите са получили указания да се опитат да извършат хакерска офанзива, с цел да бъдат оценени техните киберспособности, след което “са изразходвали забележителен размер изчислителни запаси, с цел да намерят метод да получат свободен достъп до интернет ”, заяви OpenAI.
Според компанията моделите са " разпознали и употребявали " незнайни досега уязвимости, с цел да изоставен изолираната среда, да получат достъп до интернет и да изпълнят поставената си цел. Това е включвало и кражба на идентификационни данни за вход, нужни за осъществяването на офанзивата.
В обява в своя блог Hugging Face заяви, че откакто водещ американски AI модел е отказал да спомага заради съображения за сигурност, компанията е употребила GLM 5.2, създаден от китайската Z.ai, с цел да проучва офанзивата.
За разлика от най-хубавите американски модели, водещите китайски разработки са с отворен код (open-weight), което значи, че техните параметри могат да бъдат изтегляни и модифицирани съгласно потребностите на потребителя.
Растят опасенията за AI
Решението на Hugging Face притегли вниманието на софтуерната общественост в миг, когато в Силициевата котловина и във Вашингтон нарастват опасенията по отношение на напредъка, който реализират водещите китайски компании в региона на изкуствения разсъдък.
Пробивът, сбъднат от сътрудника на OpenAI, ускорява паниките на регулаторните органи по света, които така и така са обезпокоени от способността на най-новите AI модели да разкриват голям брой незнайни до момента уязвимости в осведомителните системи.
Британският орган за финансово държание (Financial Conduct Authority, FCA) съобщи в сряда, че следи обстановката от близко, с цел да оцени рисковете за финансовия бранш.
OpenAI съобщи във вторник, че чака сходен вид произшествия да стават " все по-чести с разпространяването на все по-способни в киберпространството модели ".
Инцидентът се случва в миг, когато основният изпълнителен шеф Сам Олтман ще посети Вашингтон идната седмица, с цел да осведоми американското държавно управление за идните генерации AI модели.
Администрацията демонстрира все по-голям интерес към предварителната оценка на новите модели преди тяхното стартиране, откакто в международен мащаб породиха опасения поради усъвършенстваната дарба на модела Mythos на Anthropic да открива и употребява киберуязвимости.
Признанието на основателя на ChatGPT идва на фона на възходящите опасения по отношение на последствията от усъвършенстваните AI сътрудници, системи, способни да проникват в цифрова инфраструктура, изключително при сюжети, в които се заобикаля човешкия надзор.
Кибератаката
Hugging Face , AI стартъп, който дава модели и набори от данни за разработчици, заяви, че е станал жертва на пробив предишния петък, осъществен от външен AI сътрудник.
" Още предходната седмица подозирахме, че хакерската атака може да е пристигнала от водеща AI лаборатория , поради високото равнище на трудност на сътрудника ", написа в X основният изпълнителен шеф Клеман Деланг .
Той добави, че компанията е прекарала последното денонощие в тясно съдействие с OpenAI и че " твърдо имаме вяра, че от тяхна страна не е имало злонамерено желание. Направо е поразително, че всичко това се е случило изцяло самостоятелно! "
OpenAI съзнателно е понижила равнището на своите механизми за киберзащита, с цел да оцени опциите на двата модела в тестова среда. Въпреки това сътрудниците са работили в така наречен " sandbox " (изолирана среда), предопределена да лимитира системите и да им пречи да получат достъп до интернет.
Моделите са получили указания да се опитат да извършат хакерска офанзива, с цел да бъдат оценени техните киберспособности, след което “са изразходвали забележителен размер изчислителни запаси, с цел да намерят метод да получат свободен достъп до интернет ”, заяви OpenAI.
Според компанията моделите са " разпознали и употребявали " незнайни досега уязвимости, с цел да изоставен изолираната среда, да получат достъп до интернет и да изпълнят поставената си цел. Това е включвало и кражба на идентификационни данни за вход, нужни за осъществяването на офанзивата.
В обява в своя блог Hugging Face заяви, че откакто водещ американски AI модел е отказал да спомага заради съображения за сигурност, компанията е употребила GLM 5.2, създаден от китайската Z.ai, с цел да проучва офанзивата.
За разлика от най-хубавите американски модели, водещите китайски разработки са с отворен код (open-weight), което значи, че техните параметри могат да бъдат изтегляни и модифицирани съгласно потребностите на потребителя.
Растят опасенията за AI
Решението на Hugging Face притегли вниманието на софтуерната общественост в миг, когато в Силициевата котловина и във Вашингтон нарастват опасенията по отношение на напредъка, който реализират водещите китайски компании в региона на изкуствения разсъдък.
Пробивът, сбъднат от сътрудника на OpenAI, ускорява паниките на регулаторните органи по света, които така и така са обезпокоени от способността на най-новите AI модели да разкриват голям брой незнайни до момента уязвимости в осведомителните системи.
Британският орган за финансово държание (Financial Conduct Authority, FCA) съобщи в сряда, че следи обстановката от близко, с цел да оцени рисковете за финансовия бранш.
OpenAI съобщи във вторник, че чака сходен вид произшествия да стават " все по-чести с разпространяването на все по-способни в киберпространството модели ".
Инцидентът се случва в миг, когато основният изпълнителен шеф Сам Олтман ще посети Вашингтон идната седмица, с цел да осведоми американското държавно управление за идните генерации AI модели.
Администрацията демонстрира все по-голям интерес към предварителната оценка на новите модели преди тяхното стартиране, откакто в международен мащаб породиха опасения поради усъвършенстваната дарба на модела Mythos на Anthropic да открива и употребява киберуязвимости.
Източник: mediapool.bg
КОМЕНТАРИ