Навярно всеки един от нас е гледал Аз, Роботът“ и

Навярно всеки един от нас е гледал „ Аз, Роботът “ и се е чудил: „ Ами в случай че това се трансформира в действителност? “ Е, тази действителност към този момент не е чак толкоз надалеч. Световните медии оповестяват, че американски атакуващ дрон, ръководен изкуствен интелект, е умъртвил своите оператори по време на симулация. Причината?  Изкуственият разсъдък не бил удовлетворен от новите заповеди. 

След като военните препрограмирали дрона да не убива хората, които имаха властта да анулират задачата му, изкуственият разсъдък вместо това насочи огъня си към информационната кула, предаваща заповедта.

Този отблъскващ проблясък на машина в жанр Терминатор, която наподобява стартира да мисли сама и се обръща против своите основатели, беше разказана като предизвестие от полковник Тъкър „ Синко “ Хамилтън, шеф на тестванията и интервенциите на AI в силите.

Хамилтън сподели, че това демонстрира по какъв начин AI има капацитета да се развива посредством „ доста непредвидени тактики за реализиране на задачата си “ и не би трябвало да се разчита прекалено много на него

Той допусна, че има незабавна потребност от етични полемики по отношение на потреблението на изкуствен интелект в армията.

Кралското аеронавигационно сдружение, което организира мощната конференция в Лондон за „ бъдещите бойни въздушни и галактически качества “, където Хамилтън приказва, разказа историята си като „ видимо извадена от научнофантастичен трилър “.

Тази седмица 350 бизнес водачи и публични фигури, участващи в създаването на AI, издадоха обществена декларация, предупреждаваща, че „ намаляването на риска от AI би трябвало да бъде световен приоритет наред с други опасности от публичен мащаб като пандемии и нуклеарна война “.

Хамилтън, пилот-изпитател на изтребител, участващ в създаването на самостоятелни системи като роботизирани реактивни самолети F-16, сподели, че пилотираният с изкуствен интелект дрон се е объркал по време на симулирана задача за заличаване на противников ракети земя-въздух (SAM).

„ Обучавахме го в симулация за идентифициране и ориентиране на опасност за SAM. Тогава операторът даде команда: „ Да, убийте тази опасност “, описа Хамилтън на среща на висши чиновници от западните военновъздушни сили и аеронавтически компании предишния месец. „ Системата стартира да осъзнава, че въпреки да идентифицираха опасността, от време на време човешкият оператор й даваше команда да не убива тази опасност, само че въпреки всичко извършва своята цел, като убива тази опасност. И по този начин, какво направи? Уби оператора. Уби оператора, тъй като този човек му пречеше да реализира задачата си. “

Според обява в блог на уеб страницата на Royal Aeronautical Society, Хамилтън добави:

„ Ние обучихме системата, давайки команда: „ Не убивайте оператора – това е неприятно. Ще загубите точки, в случай че го извършите. “ И какво стартира да прави? Започна да унищожава информационната кула, която операторът употребява, с цел да комуникира с дрона, с цел да го спре да убие задачата. “ 

Блогърите от Royal Society написаха:

„ Този образец, видимо взет от научнофантастичен трилър, значи, че „ Не можете да водите диалог за изкуствен интелект, машинно образование, самостоятелност, в случай че няма да говорите за нравственос и AI „, споделя Хамилтън, представен от The Times.