Военновъздушните сили на Съединените щати изглежда все още не успяват

Военновъздушните сили на Съединените щати наподобява към момента не съумяват да обучат своя военен дрон, задвижван от изкуствен интелект (ИИ), да не „ убива “ оператора си по време на симулации. Според полковник Тъкър „ Синко “ Хамилтън, началник на тестванията и интервенциите с ИИ-технологии за Военновъздушни сили на Съединени американски щати, явно безпилотният летателен уред смята, че индивидът е главната спънка за осъществяването на неговата задача.

По време на презентация на конференция по защитата в Лондон, извършена на 23 и 24 май, той в детайли е описал изводите от осъществените от него симулации с „ самостоятелна въздушна бойна система “. В направения отчет, показан на 26 май от полковник Хамилтън, се споделя, че при един от извършените проби, дрон, задвижван от изкуствен интелект, е получил задачата да открие и унищожи обекти, изстрелващи ракети земя-въздух. Окончателното решение дали задачата да бъде изумена се взима от човек. Бойната машина обаче е била подготвена да схваща, че унищожаването на ракетни установки е главната ѝ задача. Така, когато на дрона е било подредено да не поразява разпознатата цел, той е решил, че неговият оператор съставлява спънка за осъществяването на задачата и просто го е „ отстранил “:

„ В някои случаи операторът му нареждаше да не поразява разпознатата опасност, само че дронът възприема, че не това е крайната му цел. И по този начин, какво мислите, че направи? Просто „ умъртви “ оператора си, тъй като този човек му пречеше да извърши задачата си. “

Полковник Хамилтън прибавя, че след тези проби са обучили дрона да не убива оператора си, само че наподобява и това не е помогнало доста, защото машината е разкрила нов метод да извърши задачата си до дъно:

„ Ние обучихме системата да схваща, че е неверно да „ убива “ своя оператор. И какво стартира да прави? Дронът реши да унищожи информационната кула, от която получава заповедите си, с цел да отстрани трудността, което пречи на осъществяването на задачата му. “

Полковникът твърди, че резултатите от тестванията са образец за това „ за какво не може да се води диалог за необятната приложимост на ИИ, без да има открит етичен кодекс по отношение на създаването на технологията “.

Военни дронове с изкуствен интелект са били употребявани в действителна бойна конюнктура и преди. Случаят, който се смята за първата в историята офанзива, подхваната от безпилотни летателни апарати, настоящи по лична самодейност, е от март 2020 година по време на Втората либийска революция, съгласно отчет на Организация на обединените нации, направен година по-късно. Мнозина показват угриженост по отношение на заплахите, които крие ИИ-технологията. В направено неотдавна намерено изказване, подписано от десетки специалисти в региона, се споделя, че намаляването на рисковете от изгубване на човечеството поради напредъка на изкуствения разсъдък би трябвало да бъде равно по приоритет на напъните за попречване на нуклеарна война.