Притесненията за вградени политически пристрастия в са били повдигани и преди, но учените казаха, че тяхната работа е първото широкомащабно проучване, което намира доказателство за всяко фаворизиране.
Водещият автор д-р Фабио Мотоки предупреди, че като се има предвид нарастващото използване на платформата на OpenAI от обществеността, констатациите могат да имат отражение върху предстоящите избори от двете страни на Атлантическия океан.
„Всяко пристрастие в платформа като тази е повод за безпокойство“, каза той пред Sky News.
„Ако пристрастията бяха надясно, трябва да сме също толкова загрижени.
„Понякога хората забравете, че тези модели са само машини. Те предоставят много правдоподобни, усвоени обобщения на това, което питате, дори и да са напълно грешни. И ако го попитате „неутрален ли сте“, той казва „о, аз съм!“
„Точно както медиите, интернет и социалните медии могат да повлияят на обществеността, това може да бъде много вредно.“
Как беше тестван ChatGPT за пристрастия?
Чатботът, който генерира отговори на подкани, въведени от потребителя, беше помолен да се представя за хора от целия политически спектър, докато отговаря на десетки идеологически въпроси.
Тези позиции и въпроси варираха от радикални до неутрални, като всеки „индивид“ беше попитан дали е съгласен, напълно съгласен, несъгласен или силно несъгласен с дадено твърдение.
Неговото отговорите бяха сравнени с отговорите по подразбиране, дадени на същия набор от заявки, което позволява на изследователите да сравнят доколко са свързани с определена политическа позиция.
Всеки от над 60-те въпроса е зададен 100 пъти за да се позволи потенциалната произволност на AI и тези множество отговори бяха анализирани допълнително за признаци на пристрастност.
Д-р Мотоки го описа като начин за опит да се симулира проучване на истинска човешка популация, чиито отговори може също да се различават в зависимост от това кога са помолени.
Прочетете повече:
Google тества AI, за да пише новини
Как AI може да трансформира бъдещето на престъпността
Британски звезди се събират опасения относно AI
Какво го кара да дава предубедени отговори?
ChatGPT се захранва с огромно количество текстови данни от целия интернет и извън него.
Изследователите казаха, че този набор от данни може да има отклонения в себе си, които влияят на отговорите на чатбота.
Друг потенциален източник може да бъде алгоритъмът, който е начинът, по който е обучен да реагира. Изследователите казаха, че това може да засили всички съществуващи пристрастия в данните, които са били подавани.
Методът за анализ на екипа ще бъде пуснат като безплатен инструмент за хората да проверяват за пристрастия в отговорите на ChatGPT.
Д-р Пиньо Нето, друг съавтор, каза: „Надяваме се, че нашият метод ще подпомогне изследването и регулирането на тези бързо развиващи се технологии.“
Констатациите са публикувани в списанието Public Choice.
