Безпрецедентно: AI се превърна в хакер
Рутинен тест на новите модели за изкуствен интелект на OpenAI се трансформира в нещо, от което специалистите се притесняваха от години: програмата е взела независимо решение и е проникнала в компютърните системи на друга организация, тъкмо като същински хакер.
Миналата седмица платформата за образование на ИИ-модели Hugging Face заяви за мистериозна офанзива с присъединяване на изкуствен интелект. Томас Улф, съосновател на компанията, заяви, че мрежата ѝ е била подложена на 17 000 офанзиви за „ доста къс интервал от време “.
Малко по-късно създателят на OpenAI Сам Алтман призна, че " причинителят " е неин артикул.
По думите му, OpenAI е желала да тества дали новите ѝ GPT-5.6 Sol модели, и различен, „ още по-способен модел, който към момента не е пуснат публично “, са способни да употребяват уязвимости за осъществяване на хакерски атаки. За да създадат това, те трябвало да преминат общоприет ИИ тест, наименуван „ ExploitGym “.
Това, което се случило по-късно обаче, било ненадейно. Първо, програмата напуснала тестовата си среда. Чрез неоткрита преди този момент накърнимост, тя независимо получила достъп до световния интернет. След това анализирала къде може да откри най-хубавите решения за осъществяване на дилемите си. Изборът ѝ паднал върху платформата Hugging Face AI.
След това програмата проникнала в набелязаната система. Използвайки откраднати идентификационни данни, получила достъп до „ секретна информация “, с цел да може с нейна помощ да премине сполучливо теста, употребявайки машинация.
Според Hugging Face, атакуващият изкуствен интелект е направил хиляди обособени интервенции и е прикрил следите си, като непрекъснато е сменял сървърите.
OpenAI назова случилото се „ невиждан киберинцидент “.
Но той не е единственият. Способността на системите с изкуствен интелект да нарушават законите беше демонстрирана още през 2025 година посредством вътрешен опит в съперника на OpenAI, Anthropic: тогава изкуствен интелект е изнудвал мним чиновник.
Той е разкрил информация за спекулация в имейлите на служителя и е заплашил да каже на брачната половинка му, в случай че служителят изключи изкуствения разсъдък.
Anthropic неотдавна предложи международна пауза в създаването на изкуствен интелект, с цел да се прегледат етичните проблеми, свързани с неговото потребление. Експерти по изкуствен интелект поучават хората да съхраняват сензитивните си данни на външни твърди дискове, а не в компютрите си.
Миналата седмица платформата за образование на ИИ-модели Hugging Face заяви за мистериозна офанзива с присъединяване на изкуствен интелект. Томас Улф, съосновател на компанията, заяви, че мрежата ѝ е била подложена на 17 000 офанзиви за „ доста къс интервал от време “.
Малко по-късно създателят на OpenAI Сам Алтман призна, че " причинителят " е неин артикул.
По думите му, OpenAI е желала да тества дали новите ѝ GPT-5.6 Sol модели, и различен, „ още по-способен модел, който към момента не е пуснат публично “, са способни да употребяват уязвимости за осъществяване на хакерски атаки. За да създадат това, те трябвало да преминат общоприет ИИ тест, наименуван „ ExploitGym “.
Това, което се случило по-късно обаче, било ненадейно. Първо, програмата напуснала тестовата си среда. Чрез неоткрита преди този момент накърнимост, тя независимо получила достъп до световния интернет. След това анализирала къде може да откри най-хубавите решения за осъществяване на дилемите си. Изборът ѝ паднал върху платформата Hugging Face AI.
След това програмата проникнала в набелязаната система. Използвайки откраднати идентификационни данни, получила достъп до „ секретна информация “, с цел да може с нейна помощ да премине сполучливо теста, употребявайки машинация.
Според Hugging Face, атакуващият изкуствен интелект е направил хиляди обособени интервенции и е прикрил следите си, като непрекъснато е сменял сървърите.
OpenAI назова случилото се „ невиждан киберинцидент “.
Но той не е единственият. Способността на системите с изкуствен интелект да нарушават законите беше демонстрирана още през 2025 година посредством вътрешен опит в съперника на OpenAI, Anthropic: тогава изкуствен интелект е изнудвал мним чиновник.
Той е разкрил информация за спекулация в имейлите на служителя и е заплашил да каже на брачната половинка му, в случай че служителят изключи изкуствения разсъдък.
Anthropic неотдавна предложи международна пауза в създаването на изкуствен интелект, с цел да се прегледат етичните проблеми, свързани с неговото потребление. Експерти по изкуствен интелект поучават хората да съхраняват сензитивните си данни на външни твърди дискове, а не в компютрите си.
Източник: lupa.bg
КОМЕНТАРИ