Учените установиха, че AI моделите стават все по-убедителни в диалога,

Учените откриха, че AI моделите стават все по-убедителни в разговора, само че способността им да работят с точни обстоятелства понижава. Мащабно изследване демонстрира, че единствено за 10 минути диалог чатботовете могат да трансформират мнението на човек, употребявайки мощна аргументативна техника – лавина от обстоятелства и числа, някои от които обаче се оказват недостоверни.

По-рано специалистите смятаха, че AI може да се бори с дезинформацията, като опровергава митовете и тайните теории в обществените медии, като тези за кемтрейлсите и плоската Земя. Ново изследване обаче демонстрира противоположната страна:настоящите модели могат да убеждават хората, като жертват точността на обстоятелствата.

Изследователският екип е тествал 19 езикови модела върху близо 80 000 участници. От ботовете е било поискано да убедят потребителите в нуждата от финансиране на опазването на здравето или от смяна на имиграционната политика. В рамките на 10 минути чатботовете генерираха до 25 изказвания, като затрупаха участниците с поток от обстоятелства и статистически данни – техника, известна като „ Gish galloping “. По този метод точността на обстоятелствата понижава. Например GPT-4 спадна от 78% на 62%.

„ Еднократното “ статично известие на изкуствения разсъдък от 200 думи нямало видим резултат. Десетминутно взаимоотношение в диалогов формат от към седем реплики е било доста по-убедително. То е имало дълготраен резултат върху мнението на участниците.

Въздействието на тази техника зависи от това дали ботовете фактически могат да взаимодействат с хората. Не е допустимо да се промени самият ChatGPT, който се употребява от 900 милиона души всяка седмица, само че е допустимо да се сътвори главен езиков модел, който да работи на уеб страницата, под формата на бот за помощ или посредством акции за текстови известия. Кампания със междинни запаси може да внедри сходна система за няколко седмици на цена от към $50 000, само че поддържането на дълготрайна ангажираност с аудиторията ще бъде мъчно.

Този вид технологии могат да се употребяват за разпространение на идеологии, основаване на политически безредици и даже дестабилизиране на обществените институции.