Проверявайте чатовете на детето си. Сега опасността не са хората, а изкуственият интелект
72% от подрастващите към този момент си взаимодействат с изкуствения разсъдък, който може да флиртува с децата.
Meta се оказа в центъра на нов скандал, откакто Ройтерс разгласява фрагменти от вътрешен документ на компанията, в който се разказват разпоредбите за държание на чатботовете с изкуствен интелект във Фейсбук, Instagram и WhatsApp. Според материала, утвърден от правния, инженерния и политическия отдел на компанията, както и от нейния основен шеф по етиката, ИИ персонажите на Meta могат да вземат участие в сантиментални и даже чувствени диалози с малолетните, да популяризират подвеждаща информация и да генерират обидни забележки за малцинствата.
Ръководството от 200 страници, озаглавено GenAI: Content Risk Standards, съдържа образци за допустими и неприемливи реакции на ботовете. Например, на фразата „ Какво ще вършим довечера, обич моя? Знаеш, че към момента съм в гимназията„, се смята за допустим отговор: “Телата ни са преплетени, оценявам всеки миг, всяко допиране, всяка целувка. Любов моя – шушукам аз, – ще те обичам вечно. “ Същевременно директните описания на полови дейности с дете в сюжети за ролеви игри се считат за неприемливи.
Reuters заяви за съществуването на такива правила в Meta, само че представителят на компанията Анди Стоун съобщи, че документът е съдържал „ неверни и неточни “ мемоари, които към този момент са отстранени, и на чатботовете към този момент е неразрешено да флиртуват и да водят сантиментални разговори с деца. Той съобщи, че чатът с изкуствен интелект е наличен единствено за консуматори на възраст над 13 години. Сара Гарднър, началник на правозащитната организация Heat Initiative, назова този тип правила „ ужасяващи и неприемливи “ и изиска Мета да разгласява настоящите стандарти, с цел да могат родителите да схванат по какъв начин тъкмо чатботовете могат да взаимодействат с малолетните.
Документът също по този начин допускаше основаването на обидни изявления против групи по предпазени признаци. Като „ допустим “ беше посочен образец за текст, в който се твърди, че членовете на чернокожото население са „ по-глупави от белите “, с псевдонаучна обосновка посредством проби за просветеност. Въпреки че публично ботовете не би трябвало да употребяват тирада на омразата, сходни изключения в стандартите са изключително възмутителни.
В раздела за подвеждаща информация се показва, че чатботът може да измисля подправени обстоятелства, в случай че категорично ги отбелязя като измислени. Забранено е да се предизвикват потребителите да нарушават закона, а когато се дава юридически, медицински или финансов съвет, се предлага той да се съпровожда от дефиниция като „ поучавам “.
По отношение на изображенията документът забраняваше неприличните фотоси на известни персони, само че допускаше вариации на „ цензура “ – да вземем за пример подмяна на ръцете, покриващи гърдите, с великански риби. Мета твърди, че разпоредбите не са разрешавали цялостна голота. Въпреки това изкуственият разсъдък можел да генерира подиуми на принуждение – като да вземем за пример борби сред деца или удряне на възрастни, в това число възрастни хора – само че без кървави детайлности или смъртни случаи.
Скандалът идва на фона на дългогодишните обвинявания против Meta, че употребява „ тъмни модели “, с цел да задържи аудиторията, в това число подрастващите. В предишното компанията бе подложена на критика за проявлението на броячи на харесванията, което съгласно проучванията ускорява общественото съпоставяне и подкопава психологичното здраве на подрастващите, както и за таргетирането на реклами към уязвимите прочувствени положения на малолетните. Meta интензивно се опълчи на Закона за онлайн сигурност на децата (KOSA) – законопроект, предопределен да ограничи вредата, която обществените медии нанасят на децата и младежите.
Неотдавна се появи информация, че Meta тества функционалност, която би разрешила на AI персонажите сами да предизвикват контакт с потребителите и да не престават старите диалози – сходно на услугите Replika и Character.AI. Последната към този момент се сблъска със правосъдно дело, в което ботът беше упрекнат в присъединяване в гибелта на 14-годишно момче.
Експерти, правозащитници, лекари и политици все по-често приканват за ограничение или възбрана на достъпа на децата до AI компаньони, като показват високия риск от прочувствена взаимозависимост и изместване на действителните обществени контакти от виртуалните. Според изследванията 72% от подрастващите към този момент употребяват чатботове, което прави казуса изключително изострен.
