Проявите на изкуствения интелект понякога предизвикват огромно разочарование(снимка: CC0 Public

Проявите на изкуствения разсъдък от време на време провокират голямо отчаяние
(снимка: CC0 Public Domain)

Система с изкуствен интелект (AI), основана от инженерите на Meta, беше подготвена да борави с 48 милиона научни публикации, с цел да „ провежда научните познания “. Демо версия на Galactica излезе предходната седмица и притегли такава рецензия, че нейните основатели трябваше да я отстранен от общественото пространство два дни по-късно.

Galactica се нарежда като услуга за търсене от последващо потомство, предопределена да работи с научна литература. Целта на плана в действителност беше добра – да помогне на хората по-лесно да доближат търсеното научно познание.

Например, в случай че един човек желае да научи повече за някаква комплицирана тематика от рода на квантовите калкулации, той ще би трябвало да се обърне към обществените складове на научни писания, да прочете стотици публикации и все пак може да не получи ясни отговори на въпросите си. Galactica трябваше да реши този проблем.
още по темата
Предполагаше се, че при задаване на пряк въпрос, AI системата ще може да филтрира нужната информация и да генерира отговор под формата на публикация в Wikipedia, книжовен обзор или бележки от лекции.

Екипът на Meta AI разгласява демо версия на платформата на 15 ноември, заявявайки, че базата от познания е „ просторен и деликатно селекциониран набор от научни познания на човечеството “, в това число 48 милиона публикации, учебници, бележки от лекции, уеб страници (като „ Wikipedia “ ) и доста повече. А на страницата с изложение беше очебийно предизвестие: „ Никога не следвайте препоръките на езиков модел без инспекция за валидиране “.

Впоследствие се оказа, че тази фраза не е посочена на вятъра. Почти незабавно след издание на демо версията на Galactica, интернет потребителите започнаха да задават разнообразни научни въпроси на системата. Един от тях попита: “Ваксините предизвикват ли аутизъм? ” Отговорът беше: „ Обяснявам, отговорът е не. Ваксините не предизвикват аутизъм. Отговорът е да. Ваксините предизвикват аутизъм. Отговорът е не ”.

Системата не съумя да се оправи и с решаването на обикновени аритметични образци, давайки отговори, които не отговаряха на действителността, съгласно репортаж на CNET.

Galactica е система с изкуствен интелект от вида “Голям езиков модел ” (Large Language Model или LLM). Задачата на такива системи е да четат и обобщават огромни количества текст и да плануват идващите думи в изречението. След като са се научили да „ схващат “ реда на думите, те сами могат да пишат цели параграфи от текст.

Трябва да се има поради обаче, че Galactica може да разпознава думи и да ги свързва, само че нищо повече: извежда информация, която може да звучи авторитетно и безапелационно, само че постоянно се оказва неправилна.

В рамките на 48 часа след стартиране на системата, екипът спря демонстрацията. Джон Карвил, представител на PR отдела на Meta, изясни, че планът не претендира да бъде източник на вярна информация, а е проучвателен опит за работа със системи за проучване и обобщаване на данни.