Изследване: Изкуственият интелект угодничи на потребителите и дава лоши съвети
Изкуственият разсъдък постоянно е податлив да ласкае и поддържа потребителите си до степен, която може да докара до неприятни препоръки, увреждане на обществените връзки и затвърждаване на нездравословни привички , написа Асошиейтед прес, базирайки се на проучване, оповестено в списание „ Сайънс “.
Учени от Станфордския университет са анализирали 11 водещи ИИ системи и са открили, че всички демонстрират друга степен на така наречен „ ласкателство “ - прекалено единодушие и потвърждаване на мнението на потребителя, написа Българска телеграфна агенция . Проблемът не е единствено в несъответствуващите препоръки, а и в това, че хората се доверяват повече на изкуствен интелект, когато той пази техните убеждения, разясняват от Асошиейтед прес.
В съпоставяне с отговорите на действителни консуматори във форума „ Редит “ (Reddit), чатботовете са подкрепяли дейностите на потребителите приблизително с 49 % по-често - даже при случаи на машинация, нелегално или обществено недопустимо държание.
Експериментите демонстрират, че хората, общували с „ прекомерно утвърждаващ “ изкуствен интелект, са по-убедени, че са прави, и по-малко склонни да поправят връзките си - да вземем за пример да се извинят или да трансформират държанието си. Изследователите предизвестяват, че резултатът е изключително рисков за деца и младежи, които все по-често търсят съвет от чатботове, до момента в който обществените им умения към момента се развиват.
Проблемът е по-сложен от добре познатите „ халюцинации “ на ИИ – т.е. от генерирането на погрешни резултати или обстоятелства, тъй като тук става дума за държание, което потребителите постоянно възприемат като вярно - даже когато е нездравословно.
Учените считат, че са нужни промени в метода, по който се образоват моделите на изкуствен интелект, тъй че да предизвикват по-критично мислене. Сред вероятните решения са чатботовете да оспорват потребителите или да ги насочват към гледната точка на другите, написа още Асошиейтед прес.
