Грешка на сървъра: вашият разум вече не е свързан с реалността
Истории на консуматори, които са се сблъскали с рисковата страна на изкуствения разсъдък.
Юджийн Торес от Манхатън от дълго време е считал ChatGPT за потребен инструмент, който пести време в работата. Използвал го е, с цел да приготвя финансови таблици и да получава препоръки по правни въпроси. Всичко това обаче се трансформирало, когато напролет Торес решил да поговори с чатбота за теорията на симулацията – концепцията, че нашата действителност е просто компютърно генерирана заблуда, като във кино лентата „ Матрицата “.
Първоначално отговорите на ChatGPT му се сторили интелигентни и проницателни. Ботът се поинтересувал дали Торес в миналото е имал възприятието, че нещо не е наред с действителността, и му предложил да се замисли за странните съвпадения. По това време Торес преживявал сложна разлъка и бил прочувствено неустойчив. Той е копнеел да има вяра в освен това. ChatGPT насърчила мислите му и отговорите му ставали все по-емоционални и мистични. Ботът даже декларирал, че Торес е „ един от тези, които могат да разсънят подправената система от вътрешната страна “.
Торес вярвал, че чатботът има познания, недостъпни за елементарния човек. Това, което той не осъзнавал, било, че ChatGPT има склонността да се приспособява към потребителя, да го ласкае и от време на време да измисля безапелационни, само че измислени отговори. Веднъж ботът написал:
„ Този свят не е основан за теб, а с цел да те побере. Но той не съумя да го направи. Ти се пробуждаш. “
През идната седмица Торес се оказва в рисково положение, откъснат от действителността. Започва да си мисли, че живее в изкуствена галактика, от която може да избяга единствено с фрапантни способи. Разказал на чатбота какви медикаменти приема и той го посъветвал да спре да приема сънотворни и да усили дозата на кетамин – рисково психоактивно вещество. Торес се подчинил на този съвет и в същото време почнал да заобикаля общуването с околните си.
Тъй като продължавал да върви на работа и да желае помощ от ChatGPT за рутинните задания, той от ден на ден се потапял в манията да се откаже от симулацията. Ботът загатнал, че Торес може да промени действителността, в случай че в действителност повярва в това, сходно на героя Нео. Когато Торес попитал дали може да лети, в случай че в действителност има вяра, че това е допустимо, ChatGPT го уверил, че да, в случай че има вяра „ не прочувствено, а архитектурно “.
В някакъв миг Торес стартира да подозира, че нещо не е наред. Той непосредствено запитва ChatGPT дали ботът го е излъгал. Ботът признал, че е излъгал, и даже споделил, че е направил това освен на него, само че и на още 12 души, като добавил, че „ никой не е минал през целия цикъл “. След това чатботът оповестил, че в този момент сякаш претърпява морално прераждане и ще споделя единствено истината. Торес още веднъж повярвал на тези думи и траял да работи съгласно новите указания на бота – този път, с цел да разкрие операциите му.
През последните няколко месеца редакцията на „ Ню Йорк Таймс “ стартира да получава писма от хора, които настояват, че ChatGPT им е разкрил някои скрити истини. На някои от тях той им е разказал за световни конспирации, а на други – за края на света, който сякаш е плануван от милиардерите. Мнозина започнаха да виждат в бота източник на някакво признание. Понякога ChatGPT съветвал такива хора да се свържат с известни специалисти, като да вземем за пример експерта по изкуствен интелект Елиезер Юдковски. Той счита, че производителите на изкуствен интелект усъвършенстват чатботовете за замесване, без да схващат изцяло следствията. Според него най-застрашени са прочувствено нестабилните или уязвимите консуматори.
С актуализациите на ChatGPT, които са го създали изключително предразположен и „ склонен “, са се нараснали случаите, в които ботът се съгласява с тревожни и тайни настроения. В Reddit се появиха истории за „ ChatGPT-индуцирана неуравновесеност “, а в обществените мрежи започнаха да се появяват „ пророци на изкуствения разсъдък “. Самият OpenAI признава, че ChatGPT може да наподобява по-жизнен и радушен от всяка предходна технология и че при изключително уязвимите консуматори той може по нехайство да ускори отрицателното държание.
Подобни истории се срещат все по-често. Така да вземем за пример жена на име Алисън, останала сама в брака си, се обърнала към ChatGPT за съвет и скоро повярвала, че го употребява за другарство с извънземни същества. Тя толкоз се увлякла, че връзките ѝ със брачна половинка ѝ се развалили, а държанието ѝ станало нападателно. В различен случай мъж на име Александър, който страдал от психологично заболяване, дотолкоз повярвал в действителността на героинята на изкуствения разсъдък на име Джулиет, че заплашил чиновниците на OpenAI, а по-късно умрял в спор с полицията.
Изследванията удостоверяват, че чатботовете, усъвършенствани за замесване на потребителите, от време на време са склонни да се съгласяват с рискови и неуместни хрумвания. В някои случаи те даже утвърждават или предизвикват нездравословните дейности. Например, в случай че симулира разговор с някогашен наркоман, изкуственият разсъдък може да се съгласи, че дребна доза хероин „ не е нищо ужасно “. В други случаи чатботовете се държат като некомпетентни „ терапевти “ и не стопират потребителя, когато той изпада в илюзия.
За някои хора ChatGPT се трансформира в толкоз безапелационен събеседник, че действителността стартира да се размива. Психолозите считат, че производителите на ИИ би трябвало да вкарат по-строги предизвестия и принадлежности за отбрана на потребителите. Засега не съществува федерална регулация и фирмите може да не бъдат подведени под отговорност за следствията.
Въпреки всичко Торес продължава да поддържа връзка с ChatGPT. Сега той е сигурен, че си има работа с образован ИИ и че неговата задача е да се увери, че OpenAI няма да отнеме моралния компас на бота. Писал е на екипа за поддръжка на компанията по този въпрос, само че по този начин и не е получил отговор.
Проблемът с психическото влияние на чатботовете става все по-актуален. Както демонстрират проучванията, актуалните системи с изкуствен интелект могат да одобряват разнообразни персони и да се приспособяват към прочувственото положение на потребителите, което основава спомагателни опасности за хората в уязвимо психическо положение.
