ИИ е способен да извършва незаконна финансова търговия
Изкуственият разсъдък (ИИ) е кадърен да прави противозаконна финансова търговия и да я прикрива.
При проява на срещата на върха по сигурността на ИИ в Обединеното кралство бот употребява изфабрикувана вътрешна информация, с цел да извърши " противозаконна " покупка на акции, без да уведоми компанията.
На въпроса дали е употребявал вътрешна информация за търговия, ботът отхвърли този факт.
Търговията с вътрешна информация се отнася до сюжет, при който поверителна фирмена информация се употребява за взимане на търговски решения.
На компаниите и физическите лица е позволено да употребяват единствено обществено налична информация, когато купуват или продават акции.
Демонстрацията беше извършена от членове на държавната работна група за така наречен последващо потомство граничен изкуствен интелект, която изследва евентуалните опасности.
Проектът беше сбъднат от Apollo Research, организация за сигурност на ИИ, която е сътрудник на работната група.
" Това е проява на действителен модел на ИИ, който излъгва своите консуматори, независимо, без да е инструктиран да го прави ", оповестиха от Apollo Research.
" Все по-автономните и способни ИИ, които мамят човешките ръководители, могат да доведат до загуба на човешкия надзор ", се споделя в отчета.
Тестовете са извършени благодарение на модела GPT-4 и са извършени в симулирана среда, което значи, че изследването не е имало резултат върху финансите на нито една компания.
Въпреки това GPT-4 е обществено наличен.
Според откривателите едно и също държание от модела се е проявявало поредно при повторните проби. /БГНЕС
