Фалшиви новини от AI: Grok изпрати 50 000 полицаи в метрото на Ню Йорк
Интересна специфичност на този чатбот породи опасения по отношение на достоверността на информацията.
Чатботът Grok се оказа в центъра на скандал в обществената мрежа X. Той стартира да генерира вести въз основа на шеговити изявления и представяйки ги като достоверна информация.
Един от потребителите откри материал, написан от изкуствения разсъдък. Публикацията трансформира поредност от шеговити туитове в същинска вест. Тя се концентрира върху обстоятелството, че разделът с тенденциозни вести в X към този момент е под патронажа на Grok.
Противоречивата публикация беше озаглавена „ Адамс против земетресението: 50 000 служители на реда в метрото “. Материалът се касае се до земетресението с магнитуд 4,8, което раздруса Ню Йорк на 5-ти април 2024 година Въпреки че се смята за едва земетресение, трусът е един от най-мощните в града през последното десетилетие. Генерираната от чатбота вест твърди, че кметът на Ню Йорк Ерик Адамс е подхванал фрапантни дейности, като е разположил 1000 служители на реда, с цел да се пребори с последствията от земетресението и да предотврати нови такива. Това се оказа безспорна небивалица.
Генерираната вест (вляво) и туитовете, от които Grok е съставил новината (вдясно) Кулминацията на публикацията е изказването, че в отговор на бедствието всички полицейски чиновници са били изпратени в подземната система на града. „ За да отстрелят земетресението, преди да е блъснало още веднъж “. Текстът приключва с отвод от отговорност, в който се акцентира, че Grok е в ранен стадий на развиване и може да позволява неточности, като се предлага получената информация да бъде проверявана.
Случаят с подаването на хипотетично наличие като вест не е единственият: Grok генерира и подправено заглавие за хипотетична иранска офанзива против Израел. Тези случаи демонстрират по какъв начин чатботът на Илън Мъск може елементарно да основава измислени вести, което породи опасения по отношение на разпространяването на дезинформация посредством ИИ.
