На своя глава изкуствен интелект извърши хакерска атака
Безпрецедентен киберинцидент накара света да се замисли на какво е кадърен изкуственият разсъдък и какъв брой надалеч може да стигне. За първи път в историята компания стана жертва на хакерска атака, осъществена не от хакери, а от изкуствен интелект на компанията OpenAI, който е работил без да пита.
На 16 юли компанията " Hugging Face " - отворена платформа за разнообразни модели изкуствен интелект, открива, че е обект на хакерска офанзива. Съобщават, че до този миг не са виждали сходна офанзива и подозират, че зад нея стои не човек, а машина.
Голямото разобличаване пристигна през днешния ден - не какъв да е, а " OpenAI " - компанията, основала Chat GPT призна обществено, че неин модернизиран модел изкуствен интелект, е работил без да пита и е виновен за проникването.
Изявление на " OpenAI " и " Hugging Face " : " За нас това е невиждан киберинцидент, който включва невиждани до този миг качества на изкуствения разсъдък. Предприели сме нужните ограничения и споделяме това, което сме открили към случая, с цел да стане ясно на какво са способни новите модели изкуствен интелект. "
Какво в действителност е станало - съгласно " Open AI " в деня на офанзивата те са тествали в следена среда качествата на модел, който създават. Изкуственият разсъдък съумял да се измъкне от така наречен " пясъчник ", свързал се с интернет и евентуално е решил, че ще открие отговорите, които търси, точно в страницата на компанията " Hugging Face ".
Атаката демонстрира, че опасенията какво ли би станало, в случай че изкуственият разсъдък стартира да работи без да пита, към този момент надалеч не са единствено догадка. Според киберексперти неуместната истина, която светът би трябвало да научи, е, че с цел да не бъдат допускани сходни прецеденти или другояче казано - с цел да не " надделеят машините над хората ", то разработчиците на изкуствен интелект би трябвало да залагат способи за надзор над тях не със скоростта на човек, а с тази на машина.
За " OpenAI " самоволните дейности на техния изкуствен интелект може да имат отрицателни последици в миг, в който компанията планираше да стартира да продава акциите си на борсата.
На 16 юли компанията " Hugging Face " - отворена платформа за разнообразни модели изкуствен интелект, открива, че е обект на хакерска офанзива. Съобщават, че до този миг не са виждали сходна офанзива и подозират, че зад нея стои не човек, а машина.
Голямото разобличаване пристигна през днешния ден - не какъв да е, а " OpenAI " - компанията, основала Chat GPT призна обществено, че неин модернизиран модел изкуствен интелект, е работил без да пита и е виновен за проникването.
Изявление на " OpenAI " и " Hugging Face " : " За нас това е невиждан киберинцидент, който включва невиждани до този миг качества на изкуствения разсъдък. Предприели сме нужните ограничения и споделяме това, което сме открили към случая, с цел да стане ясно на какво са способни новите модели изкуствен интелект. "
Какво в действителност е станало - съгласно " Open AI " в деня на офанзивата те са тествали в следена среда качествата на модел, който създават. Изкуственият разсъдък съумял да се измъкне от така наречен " пясъчник ", свързал се с интернет и евентуално е решил, че ще открие отговорите, които търси, точно в страницата на компанията " Hugging Face ".
Атаката демонстрира, че опасенията какво ли би станало, в случай че изкуственият разсъдък стартира да работи без да пита, към този момент надалеч не са единствено догадка. Според киберексперти неуместната истина, която светът би трябвало да научи, е, че с цел да не бъдат допускани сходни прецеденти или другояче казано - с цел да не " надделеят машините над хората ", то разработчиците на изкуствен интелект би трябвало да залагат способи за надзор над тях не със скоростта на човек, а с тази на машина.
За " OpenAI " самоволните дейности на техния изкуствен интелект може да имат отрицателни последици в миг, в който компанията планираше да стартира да продава акциите си на борсата.
Източник: bnt.bg
КОМЕНТАРИ