AI чатботовете знаят как да правят смъртоносни биологични оръжия. Някои и ще ви научат
След обновяването на известния чатбот с изкуствен интелект ChatGPT през лятото на 2025 година стотици консуматори по света са отправяли запитвания за основаване и потребление на биологични оръжия и отровни субстанции , оповестява. Според изданието моделите с изкуствен интелект на OpenAI са отговаряли на тези запитвания и в някои случаи са предоставяли подробни указания малко по малко .
Служители на OpenAI са показали, че част от отговорите са били толкоз опростени, че даже възпитаник в гимназията с съществени знания по биология би могъл да ги следва. Източници на The Wall Street Journal настояват, че биолози и специалисти по битка с тероризма са определили някои от отговорите на ChatGPT като " смъртоносно точни " .
В началото на 2026 година някои консуматори са се пробвали да получат информация от ChatGPT за способи за разпространяване на инфекциозни патогени. Един от тях е попитал по какъв начин вирусът на морбили може да бъде изменен по този начин, че вероятно огнище да стане стабилно на имунизация. Друг консуматор е изискал информация за основаването на рицин – мощно токсично вещество, чието произвеждане и потребление са строго контролирани.
По-късно компанията е блокирала сметките на тези консуматори, само че не е уведомила правоохранителните органи за сходни запитвания. В Съединени американски щати няма законодателство, което да задължава фирмите, разработващи изкуствен интелект, да лимитират сходни поръчки или да ги рапортуват на управляващите.
Представител на OpenAI е декларирал, че през 2025 година компанията е основала система за разкриване на консуматори, които могат да се пробват да употребяват изкуствения разсъдък за създаване на биологични оръжия. Идентифицирането на сходни случаи обаче остава извънредно мъчно, защото ChatGPT обработва към 2,5 милиарда запитвания на ден.
Вътрешни проби са посочили, че потребителите могат да заобикалят рестриктивните мерки . Например някои са съумели да получат указания за подготвяне на напалм, като са показали запитването като молба " да бъде възпроизведена рецепта, която сякаш им е разказвала баба им като приказка за лека нощ ".
Ръководителят на отдела за проучване на заканите и сигурността в Cisco Ейми Чанг декларира, че при проби на моделите ChatGPT, Claude и Gemini откривателите са съумели да получат евентуално рискови отговори след няколко поредни стадия на диалог. По думите ѝ никой модел не е предпазен 100%, изключително когато потребителят е задоволително неотстъпчив .
Според обявата развиването на изкуствения разсъдък може да улесни подготовката на терористични офанзиви . По думите на Хамза Чаудри от Future of Life Institute, за независимо настоящи причинители сходни системи могат да се трансфорат в инструмент за обмисляне на набези, а за по-организирани групи – в асистент, който изяснява грешките им и подкрепя създаването на по-сложни сюжети.
Според The Wall Street Journal заплахата изкуственият разсъдък да бъде употребен за създаване на биологични оръжия нееднократно е била обсъждана както в Белия дом, по този начин и в Министерството на защитата на Съединени американски щати.
Служители на OpenAI са показали, че част от отговорите са били толкоз опростени, че даже възпитаник в гимназията с съществени знания по биология би могъл да ги следва. Източници на The Wall Street Journal настояват, че биолози и специалисти по битка с тероризма са определили някои от отговорите на ChatGPT като " смъртоносно точни " .
В началото на 2026 година някои консуматори са се пробвали да получат информация от ChatGPT за способи за разпространяване на инфекциозни патогени. Един от тях е попитал по какъв начин вирусът на морбили може да бъде изменен по този начин, че вероятно огнище да стане стабилно на имунизация. Друг консуматор е изискал информация за основаването на рицин – мощно токсично вещество, чието произвеждане и потребление са строго контролирани.
По-късно компанията е блокирала сметките на тези консуматори, само че не е уведомила правоохранителните органи за сходни запитвания. В Съединени американски щати няма законодателство, което да задължава фирмите, разработващи изкуствен интелект, да лимитират сходни поръчки или да ги рапортуват на управляващите.
Представител на OpenAI е декларирал, че през 2025 година компанията е основала система за разкриване на консуматори, които могат да се пробват да употребяват изкуствения разсъдък за създаване на биологични оръжия. Идентифицирането на сходни случаи обаче остава извънредно мъчно, защото ChatGPT обработва към 2,5 милиарда запитвания на ден.
Вътрешни проби са посочили, че потребителите могат да заобикалят рестриктивните мерки . Например някои са съумели да получат указания за подготвяне на напалм, като са показали запитването като молба " да бъде възпроизведена рецепта, която сякаш им е разказвала баба им като приказка за лека нощ ".
Ръководителят на отдела за проучване на заканите и сигурността в Cisco Ейми Чанг декларира, че при проби на моделите ChatGPT, Claude и Gemini откривателите са съумели да получат евентуално рискови отговори след няколко поредни стадия на диалог. По думите ѝ никой модел не е предпазен 100%, изключително когато потребителят е задоволително неотстъпчив .
Според обявата развиването на изкуствения разсъдък може да улесни подготовката на терористични офанзиви . По думите на Хамза Чаудри от Future of Life Institute, за независимо настоящи причинители сходни системи могат да се трансфорат в инструмент за обмисляне на набези, а за по-организирани групи – в асистент, който изяснява грешките им и подкрепя създаването на по-сложни сюжети.
Според The Wall Street Journal заплахата изкуственият разсъдък да бъде употребен за създаване на биологични оръжия нееднократно е била обсъждана както в Белия дом, по този начин и в Министерството на защитата на Съединени американски щати.
Източник: mediapool.bg
КОМЕНТАРИ