Зловещи „халюцинации“ на ИИ: устройствата Google Home виждат „призраци“ в домовете и ви предупреждават за тяхната активност
Редица консуматори в Reddit настояват, че техните устройства Гугъл Home са почнали да записват и разказват наличието на хора, които в никакъв случай не са виждали.
В едно известие се твърди, че камерата на потребителя е снимала Майкъл да изхвърля боклука. В къщата обаче няма никой с това име. Когато потребителят попитал Гугъл Assistant за това, той дал отговор, че камерата му разпознава лица, даже без имена. Камерата е снимала Майкъл сред 26 и 27 октомври.
Според потребителя, той в никакъв случай не е вкарвал името „ Майкъл “ в системата, само че е изнесъл боклука в избраното време и евентуално е бил сниман от камера. Друг консуматор заяви, че неговият Гугъл Home инцидентно му е напомнил да изнесе боклука, след което е отрекъл това и най-после е настоял, че е сбъркал.
Друг твърди, че устройството му е съобщило, че другар на име Дейвид е влезнал в хола и е чистил с прахосмукачка. Потребителят има другар с това име, само че този човек в никакъв случай не е влизал и никой не е чистил с прахосмукачка.
Друг консуматор на Reddit разгласява пост няколко дни по-рано, потвърждавайки, че камерата Гугъл Nest е записала главните събития от деня, идентифицирайки жена на име Сара. Изкуственият разсъдък е отбелязал, че Сара е разхождала кучета и е изхвърляла боклука. Мъжът твърди, че живее самичък и не познава никого с това име. Системата също по този начин е предположила, че в хола са дейни две кучета, макар че потребителят има единствено едно.
Официалният акаунт на Гугъл към този момент е дал отговор на потребителските сигнали и е изискал видеозаписи. Един коментиращ допуска, че това държание може да е обвързвано с метода, по който работят огромните езикови модели. Ако системата одобри, че обещано име най-добре подхожда на подтекста на описанието, тя може да генерира това име, даже в случай че е невалидно, защото не може да разграничи тъкмо описанието от измислицата.
Ева Ганън, чието семейство е притежател на ресторант, сподели пред First Alert, че изкуственият разсъдък на Гугъл непрекъснато е казвал на клиентите нереалистични предложения и е измислял детайли от менюто. В един образец изкуственият разсъдък на Гугъл е твърдял, че Стефания предлага огромна пица на цената на дребна – явно доста хора биха се разочаровали, в случай че не получат подобен подарък.
Това надалеч не е първият бизнес, потърпевш от дезинформация, подхранвана от изкуствен интелект. През юни компания за слънчева сила от Минесота заведе дело за клюка против Гугъл, потвърждавайки, че отзивите на AI Overviews са дали на клиентите погрешна информация за компанията, което е навредило на бизнеса ѝ.
Австралийска банка пострада от изкуствения разсъдък по различен метод: замяната на чиновниците по техническа поддръжка с изкуствен интелект докара до увеличение на позвъняванията и изключителния труд за останалите чиновници. В резултат на това на съкратените чиновници се насочиха извинения и те бяха върнати на работа.
