Google представя измислени чудовища като реални в AI резултатите си
Функцията AI Overviews на Гугъл още веднъж провокира рецензии, откакто стартира да показва персонажи и събития от известната хорър вселена SCP Foundation като действителни обстоятелства.
Според обява на Futurism системата генерира подробни описания на измислени същества, без да прецизира, че те са част от онлайн художествена фантастика.
Един от образците е SCP-565, прочут измежду почитателите като " Главата на Ед ". При търсене на термина AI Overviews разказва съществото като действителен биологичен организъм.
Според генерираното резюме SCP-565 съставлява човешка глава, която се придвижва по морското дъно благодарение на мозъчна тъкан, употребена като крайници и пипала. Системата твърди още, че и стоматологични данни свързват аномалията с умрял мъж на име Едуард Белтрам.
В реалност сходно създание не съществува. То е част от SCP Foundation - огромна общественост за взаимно основаване на фантастични истории в интернет.
Вселената SCP Foundation разказва измислена организация, която открива и изолира свръхестествени обекти, същества и феномени. Историите са показани под формата на подправени научни отчети, архиви, проучвания и протоколи. Именно този формат наподобява подвежда системите с изкуствен интелект.
Проблемът не се лимитира до един случай. Според инспекция на Futurism AI Overviews е показал най-малко 20 разнообразни SCP истории като действителни събития или същества.
Сред тях е SCP-426 - тайнствен тостер, който съгласно измислената история кара всеки, който приказва за него, да употребява първо лице. В един от резултатите AI Overviews дори възприема тази специфичност и стартира описанието с думите: " Здравейте, аз съм SCP-426, елементарен ретро тостер с четири отделения ".
След това системата споделя за хипотетични жертви на устройството и разказва измислени произшествия като фактически случили се събития.
Други образци включват SCP-922, известно като " Друга версия на истината ", SCP-704 - гибелен пътен сектор под името " Опасни завои ", както и SCP-779 - паразитно създание, наподобяващо оса.
В част от случаите AI Overviews загатва термини като " сюжет " или " галактика на SCP ", само че рядко прецизира ясно, че става въпрос за художествена небивалица.
Авторите на обявата означават, че множеството консуматори евентуално знаят, че SCP Foundation е художествена небивалица. Това обаче не важи за всички. Децата могат да одобряват информацията за достоверна.
Случаят още веднъж слага въпроса за надеждността на генеративния изкуствен интелект при обработката на информация. Големите езикови модели не престават да срещат компликации при разграничаването на обстоятелства от художествена небивалица, изключително когато фикционалното наличие е показано в реален формат.
Проблемът идва в миг, когато Гугъл форсира интеграцията на AI в своята търсачка. Наскоро компанията разгласи проекти за по-мащабно прекосяване към интерфейс, който обобщава информацията с изкуствен интелект, вместо да насочва потребителите към истинските източници.
Според обява на Futurism системата генерира подробни описания на измислени същества, без да прецизира, че те са част от онлайн художествена фантастика.
Един от образците е SCP-565, прочут измежду почитателите като " Главата на Ед ". При търсене на термина AI Overviews разказва съществото като действителен биологичен организъм.
Според генерираното резюме SCP-565 съставлява човешка глава, която се придвижва по морското дъно благодарение на мозъчна тъкан, употребена като крайници и пипала. Системата твърди още, че и стоматологични данни свързват аномалията с умрял мъж на име Едуард Белтрам.
В реалност сходно създание не съществува. То е част от SCP Foundation - огромна общественост за взаимно основаване на фантастични истории в интернет.
Вселената SCP Foundation разказва измислена организация, която открива и изолира свръхестествени обекти, същества и феномени. Историите са показани под формата на подправени научни отчети, архиви, проучвания и протоколи. Именно този формат наподобява подвежда системите с изкуствен интелект.
Проблемът не се лимитира до един случай. Според инспекция на Futurism AI Overviews е показал най-малко 20 разнообразни SCP истории като действителни събития или същества.
Сред тях е SCP-426 - тайнствен тостер, който съгласно измислената история кара всеки, който приказва за него, да употребява първо лице. В един от резултатите AI Overviews дори възприема тази специфичност и стартира описанието с думите: " Здравейте, аз съм SCP-426, елементарен ретро тостер с четири отделения ".
След това системата споделя за хипотетични жертви на устройството и разказва измислени произшествия като фактически случили се събития.
Други образци включват SCP-922, известно като " Друга версия на истината ", SCP-704 - гибелен пътен сектор под името " Опасни завои ", както и SCP-779 - паразитно създание, наподобяващо оса.
В част от случаите AI Overviews загатва термини като " сюжет " или " галактика на SCP ", само че рядко прецизира ясно, че става въпрос за художествена небивалица.
Авторите на обявата означават, че множеството консуматори евентуално знаят, че SCP Foundation е художествена небивалица. Това обаче не важи за всички. Децата могат да одобряват информацията за достоверна.
Случаят още веднъж слага въпроса за надеждността на генеративния изкуствен интелект при обработката на информация. Големите езикови модели не престават да срещат компликации при разграничаването на обстоятелства от художествена небивалица, изключително когато фикционалното наличие е показано в реален формат.
Проблемът идва в миг, когато Гугъл форсира интеграцията на AI в своята търсачка. Наскоро компанията разгласи проекти за по-мащабно прекосяване към интерфейс, който обобщава информацията с изкуствен интелект, вместо да насочва потребителите към истинските източници.
Източник: dnesplus.bg
КОМЕНТАРИ