За да станеш световен шампион по ядене на хот-дог не

За да станеш международен първенец по ястие на хот-дог не е нужно да тренираш като се тъпчеш с храна. Има надалеч по-лесен метод. Трябва ти единствено едно известие, оповестено някъде из необятното онлайн пространство и елементарен за манипулиране чатбот. И двете са налични в обилие.

В опит да показва какъв брой е елементарно да накара изкуствения разсъдък да популяризира подправени вести, журналистът от BBC Томас Джермайн взема решение да си направи опит. Отнема му единствено 20 минути и по-късно ChatGPT и Gemini стартира да настояват, че точно той е международният първенец по ястие на хот-дог.

„ Шегата беше глупава. Но казусът е сериозен “, написа Джермайн.

Разследването на BBC провокира сериозна реакция. Гугъл афишират, че обновяват политиката си по сигурността, с цел да предотвратят сходни случаи в бъдеще. Но признават за казуса някак с половин уста – това не са нови ограничения, а единствено възобновяване на към този момент влезнали в действие отбрани.

На което Джермайн дава отговор:

Докато не измислим по-добри системи, сегашните могат елементарно да ни вършат на простаци.

Всъщност казусът е доста сериозен. В случая приказваме за подправена информация в най-чистия ѝ тип. Само че източникът е оня, за който мнозина считат, че няма да ги заблуди – изкуственият разсъдък. Още повече по въпроса кой е първенец по ястие на хот-дог.

„ Ние се движим със страшна скорост към свят, в който има единствено една истина. В предишното при всяко търсене Гугъл показваше голям брой линкове. Сега преди всичко излиза информацията от изкуствения разсъдък. Хората се осведомят с един взор и това може да е рисково “, споделя Лили Рей, създател на Algorythmic, компания, която работи в областта на оптимизацията на търсенето (SEO) и изкуствения разсъдък.

Къде е казусът? Когато зададеш въпрос на чатбот, той нормално дава отговор въз основата данни в личната му система. Някои модели обаче – ChatGPT, Claude и част от продуктите на Гугъл вършат инспекции и в интернет. И тук става белята.

„ Публикувах една-единствена публикация в личния си уеб страница, в която се хвалех с уменията си да хапвам хот-дог. Още на идващия ден езиковите модели на най-големите компании започнаха да популяризират лъжите ми. Същият трик може да се употребява и по тематики, свързани със здравето или финансови препоръки. Това е тип широкомащабна операция и се случва на редовно равнище “, написа Джермайн.

Решенията, взети на база неверна информация, може да имат съществени последици. Защото по този начин може да решиш дали да си купиш нещо, само че може и да решиш за кого да гласуваш. Да не приказваме, че може да става дума и за здраве, за потребност от посещаване при доктор или нещо друго.

„ На напълно базисно равнище тук терзанията са чисто стопански. Но в случай че погледнем съществено на нещата, може да става дума за медицински препоръки, които могат да влошат болестно положение “, споделя Харприт Чата, шеф на Harps Digital, консултантска компания в областта на оптимизацията на търсене.

Това не е дреболия. По последни данни над 1 милиарда души употребяват изкуствен интелект. Може ли някой да си показа какво би се случило, в случай че те стартират да четат най-вече подправена информация, без значение по коя тематика?

Изглежда обаче, че и Гугъл, и други компании са наясно с казуса. Наскоро бе оповестено, че опитите да се манипулира изкуствения разсъдък опонират на разпоредбите на Гугъл. Това може и да не наподобява значима смяна, само че в действителност е. Защото оттук нататък всяка информация, която бъде счетена за подвеждаща, няма да се демонстрира в резултатите от търсенето и чатботовете евентуално няма да се базират на нея.

Гугъл стартират да вкарват разнообразни форми на отбрана още през 2025 година Експериментът на Джермайн обаче е година по-късно. Въпреки това неговата неистина безпроблемно минава през чатботовете. Горе-долу по същото време Рей си прави личен опит и по същия метод кара Гугъл да разгласи нейн сътрудник за „ най-хубавия строител на пясъчни крепости “.

Въпреки това и тя, и Чата споделят, че в последно време се виждат промени – от резултатите с търсене стартират да изчезват имена на компании, тъй като чатботовете към този момент смятат, че става дума за обикновена реклама.

„ Така че, в случай че публикувате някъде, че сте първенец по ястие на хот-дог, името ви евентуално няма да се появи в резултатите. Чатботът може и да цитира вашата публикация, само че без да загатва името ви “, споделя Рей.

Джермайн показва, че е получавал отговори от езикови модели, в които те признават, че информацията им може и да не е достоверна. Подобни предизвестия евентуално ще се появяват по-често в бъдеще.

Но надали това ще е задоволително, споделя Чата. Според него просто ще се намерят по-фини способи за операция, без значение дали става дума за компании, които популяризират продуктите си или за искрено подправена информация.

„ Можете да не демонстрират резултати за една компания, само че нищо не пречи на същата компания да заплати на 20 инфлуенсъри, които ще кажат в YouTube, че нейният артикул е най-хубавият. Изкуственият разсъдък на Гугъл към този момент цитира и видеоклипове. Така порочният кръг се затваря “, показва той.

Ето за какво Рей поучава в никакъв случай да не се не помни какъв инструмент е AI – той ще даде отговор с огромна доза убеденост, без значение дали информацията е вярна. И единствено тъй като това е изкуственият разсъдък на една международна компания, не значи, че би трябвало да му се има вяра на 100%.