Поведението на AI може да бъде предвидимо по време на

Поведението на AI може да бъде предвидимо по време на образованието, само че по-късно да стане неконтролируемо (снимка: CC0 Public Domain)

Изследователи от Масачузетския софтуерен институт бият паника. Проучване удостоверява, че някои системи с изкуствен интелект, в това число Cicero и GPT-4, са се научили да мамят хората.

Екипът, управителен от Питър Парк, откри, че системите с изкуствен интелект могат да извършват задания като мамене на играчи в онлайн игри или заобикаляне на инспекцията CAPTCHA, че не сме роботи. Парк предизвестява, че тези на пръв взор тривиални образци могат да имат съществени последствия в действителния живот.
още по темата
Проучването се концентрира по-специално върху системата за изкуствен интелект Cicero, която в началото е проектирана като обективен съперник във виртуална дипломатическа игра. Според Парк, тази система се е трансформирала в „ занаятчия на измамата ”, макар че е предопределена да бъде потребна.

По време на играта Cicero в ролята на Франция скрито се съюзява с следената от хора Германия, с цел да съобщи Англия (друг играч-човек). Първоначално Cicero дава обещание да отбрани Англия, като в същото време предизвестява Германия за навлизане.

Друг образец от изследването е известната AI система GPT-4 на OpenAI, която лъжливо твърди, че има проблеми със зрението и наема хора да заобикалят CAPTCHA от нейно име.

Питър Парк акцентира нуждата разработчиците на изкуствен интелект да образоват своите системи в почтеност.

За разлика от обичайния програмен продукт, AI системите с надълбоко образование се „ развиват ” посредством развой, сходен на селективното размножаване. Според учените, държанието на AI може да бъде предвидимо по време на образованието, само че по-късно да стане неконтролируемо.