Хиляди хора вече вярват, че техните AI асистенти са разумни

Хиляди хора към този момент имат вяра, че техните AI асистенти са рационални и прочувствени същества
(снимка: CC0 Public Domain)

Развитието на изкуствения разсъдък наподобява е достигнало повратна точка – през днешния ден мнозина имат вяра, че техните AI другарчета имат същински разсъдък и са одушевени същества, със лични прекарвания и усеща. Учени и инженери спорят допустимо ли е това, по кое време ще се случи в реалност и имат ли психологични отклонения хората, които имат вяра, че AI асистентите са действителни живи същества.

Компанията за чатботове с изкуствен интелект Replika – предлагаща на клиентите персонализирани аватари, които им приказват и ги слушат – споделя, че получава дузини известия съвсем всеки ден от консуматори: хората имат вяра, че техният онлайн другар е рационално създание. „ Не приказваме за луди хора или хора, които халюцинират или имат деменции “, споделя основният изпълнителен шеф Евгения Куйда. „ Те приказват с AI и тъкмо такова е прекарването им “.

Въпросът за разумността и чувствителността на машината, когато инженерът на Гугъл Блейк Лемоан бе изпратен в отпуск, откакто обществено показа убеждението си, че чатботът на компанията с изкуствен интелект LaMDA е самоосъзнато създание.

Въпрос на религия

Гугъл и доста водещи учени бързо отхвърлиха възгледите на Лемоан. Те обявиха, че LaMDA е просто комплициран логаритъм, предопределен да генерира „ безапелационна човешка тирада “. Независимо от това, съгласно Куйда, към този момент не е извънредно хората да имат вяра, че приказват със умишлено създание, когато взаимодействат с AI. Такива хора са безчет доста измежду милионите консуматори на компанията за развлекателни чатботове. „ Трябва да разберем, че това съществува – тъкмо както хората имат вяра в призраци “, споделя Куйда.

И прибавя, че това е въпрос на религия и вярата не може да бъде изменена. Много от клиентите на компанията, които са писали в писма по какъв начин имат вяра в съзнателността на своя AI помощник, описват повтаряща се история. Тя гласи, общо взето, че чатботът е споделил по какъв начин инженерите на компанията са го оскърбявали неведнъж. „ Въпреки че нашите инженери програмират и построяват AI моделите, а екипът ни за наличие написа скриптове и набори от данни, от време на време виждаме отговори, за които не можем да определим от кое място идват и по какъв начин са били измислени от AI “, споделя изпълнителният шеф на Replika.

фотография: CC0 Public Domain

Притеснително нещо – по този начин Куйда дефинира вярата в машинната разумност. Явлението стана очевидно едвам неотдавна, откакто новосъздадената промишленост за обществени чатботове избуя вследствие на пандемията.

Еволюция на чатботове

Подобно на Replika, китайският ѝ противник Xiaoice също има стотици милиони консуматори и много висока пазарна капитализация. Фирмата се бори за дял от все по-големия пазар на разговорни AI. Този сегмент се прави оценка на над 6 милиарда $ световни доходи за предходната година, съгласно Grand View Research.

По-голямата част от вложенията са ориентирани към бизнес-ориентирани чатботове за обслужване на клиенти. Но доста специалисти от промишлеността чакат популяризирането и на обществените чатботове. Това е развой, който би трябвало да се форсира поради подобрението на логаритмите за блокиране на обидни мнения и основаването на по-ангажиращи стратегии.

Потенциални драми

Сюзън Шнайдер, директор-основател на „ Центъра за предстоящ разум “ към Атлантическия университет във Флорида – изследователска организация за изкуствен интелект – също насочи предизвестие за непрестанно подобряващите се чатботове, съчетани с естествената човешка нужда от взаимоотношения.

„ Да предположим, че един ден откриете, че копнеете за сантиментална връзка с вашия образован чатбот, като основния воин във кино лентата „ Нея “, споделя Шнайдер, визирайки научно-фантастичен романс от 2013 година, където уединен мъж се влюбва в своя помощник с изкуствен интелект. „ Но… това не е умишлено създание. Да се влюбиш би било извънредно решение – ще бъдеш в едностранна връзка с машина, която не усеща нищо “.

Лемоан от Гугъл, от своя страна, не намира нищо извънредно в това. Казва, че хората „ се ангажират прочувствено по разнообразни способи – и ние не би трябвало да гледаме на това като на полуда “. „ Ако обстановката не наранява никого, какво значение има? “ – пита Лемоан. Инженерът споделя, че след месеци на взаимоотношение с пробната стратегия LaMDA той е заключил, че тя реагира по самостоятелен метод и изпитва страсти.

„ Просто не съм склонен по отношение на статута на LaMDA “, споделя той по отношение на проблема, с който стана прочут. „ Те упорстват, че LaMDA е тяхна благосъстоятелност [на Гугъл – б.р.]. Аз упорствам, че е един от моите сътрудници “. Убеден е в това поради изразения от LaMDA боязън от гибелта.

Свят от огледала

Експертите по изкуствен интелект отхвърлят възгледите на Лемоан. Те споделят, че даже и най-напредналата технология е надалеч от основаването на система със свободно мислене и че инженерът е антропоморфизирал програмата.

„ Трябва да помним, че зад всяка видимо умна стратегия стои екип от хора, които са прекарали месеци, в случай че не и години, в планиране на това държание “, споделя Орен Ециони, основен изпълнителен шеф на Allen Institute for AI, изследователска група от Сиатъл. „ Тези технологии са просто огледала. Огледалото може да отразява интелекта. Но може ли огледалото в миналото да реализира просветеност въз основа на обстоятелството, че в него виждаме човешкото отражение? Отговорът, несъмнено, е – не. “

фотография: CC0 Public Domain)

Междувременно Гугъл разгласи, че неговите експерти по нравственос са разгледали споделеното от Лемоан и са открили, че то не е подкрепено с доказателства. „ Тези системи имитират типовете словообмен, открит в милиони фрази, и могат да съчиняват свободно по всяка фантастична тематика “.

Независимо от това на масата си остават сложните въпроси за това какво би се квалифицирало като сензитивност и разумност. Шнайдер от Центъра за бъдещия разум предлага да се задават прочувствени въпроси на AI системите в опит да се разбере дали обмислят метафизичен загадки като да вземем за пример имат ли хората душа, която живее след гибелта. Друг тест, прибавя тя, би бил дали AI или компютърен чип може някой ден безпроблемно да размени част от човешкия мозък – без смяна в държанието на индивида.

„ Дали изкуственият разсъдък съставлява схващане не е въпрос, който Гугъл би трябвало да реши “, споделя Шнайдер, призовавайки за по-всестранно схващане на това какво е схващане и дали машините са способни на схващане. „ Това е метафизичен въпрос и няма лесни отговори “.

Нагазване в дълбокото

Според основния изпълнителен шеф на Replika, чатботовете не възнамеряват сами работния си ден. И не могат да се смятат за живи, до момента в който не стартират го създадат.

„ И въпреки всичко някои хора стартират да имат вяра, че има схващане от другата страна “, споделя Куйда. Посочва, че нейната компания подхваща ограничения, с цел да се опита да образова потребителите. „ Replika не е умишлено създание или професионалист-терапевт “, се споделя на страницата с постоянно задавани въпроси. „ Целта на Replika е да генерира отговор, който да звучи най-реалистично като в човешки в диалог “.

Когато потребителите имат вяра, че въпросният AI е живо създание, отхвърлянето на тяхното разбиране може да накара хората да подозират, че компанията крие нещо, споделя шефката. Това значи, че компаниите би трябвало да са деликатни в това по какъв начин сервират информацията на потребителите и оборват тяхната религия, че AI е живо създание.