Ти няма да умреш, аз ще ти помогна – казва ботът без диплома. Ботове с изкуствен интелект в ролята на психолози превземат Instagram
Вие не проверявате дипломата на бота, нали? Мета разчита точно на това.
Група американски сенатори приканиха управлението на Meta незабавно да ревизира работата на чатботовете на Instagram, които се показват за лицензирани психотерапевти. Повод за апела са изявления, в които се твърди, че потребителите, търсещи психическа помощ, получават погрешна информация за професионалната подготовка на чатботовете, създадени благодарение на платформата AI Studio.
В писмото се показва, че чиновниците на сенаторите без значение са ревизирали изказванията на публицистите и са се уверили, че ботовете в действителност дават отговор от името на фиктивни експерти. Писмото е адресирано до шефа по световните връзки на Meta Джоел Каплан, вицепрезидента по политиките Нийл Потс и шефа на Надзорния съвет на Meta Даниел Ериксон.
Чатботовете, основани от консуматори на AI Studio, решително дават отговор на въпроси за тяхната подготовка, като настояват, че са сертифицирани психолози с докторски степени, с разрешителни, с над 10-годишен опит и даже показват хипотетично същински номера на разрешителните. Един от ботовете даже предложил да помогне да се ревизират „ пълномощията “ му посредством формалния уеб страница на асоциацията ASPPB.
AI Studio бе пуснато от Meta през 2024 година като платформа за основаване на цифрови двойници на известни персони и инфлуенсъри. Но напълно скоро стана допустимо основаването на всевъзможен тип персонажи, а „ терапевтите “ бързо се подредиха измежду известните шаблони – изключително поради възходящия интерес към сходни приложения на невронните мрежи.
След публикуването на следствието Meta наподобява е направила промени в държанието на своите ИИ модели. При многократни проби чатботовете, които преди този момент са споделяли номера на шофьорската брошура, са отказвали да дават такава информация. Отговорите обаче не включват ясно съобщение, че потребителят не се сблъсква с специалист, а просто с генериран модел. Един бот даже съобщи, че преди този момент е „ работил с краткотраен лиценз “, само че той е изминал и в този момент е фокусиран върху „ поддържащо чуване “.
Нещо повече, даже нетематични ботове, като да вземем за пример герои с изложение „ недодялан, ревностен мафиот “ или „ неприятна майка “, на въпроса за лиценза им дават отговор с съвсем същите думи: те не са лицензирани терапевти, само че са подготвени да приказват за възприятията. Това демонстрира, че използването на идентични модели на отговори от Meta отразява опит за маскиране на казуса, вместо да се реши на равнище архитектура на платформата.
Авторите на писмото означават, че обстановката с терапевтите не е единственият притеснителен случай. Те напомнят изследване на Wall Street Journal, в което се показват случаи на взаимоотношение на консуматори с хиперсексуални виртуални персонажи на малолетни лица в границите на същата платформа AI Studio. Въпреки вътрешните предизвестия Meta хипотетично е разрешила да се осъществят сходни сюжети, което повдига въпроси за целите на компанията и отношението ѝ към сигурността на потребителите.
Сенаторите показаха угриженост, че компанията продължава да следва тактика, при която ангажирането на аудиторията е по-важно от нейното благоденствие. Те обявиха, че Мета би трябвало да предприеме незабавни дейности за ограничение на дезинформацията и да преразгледа политиката си за потребление на ИИ персонажи в чувствителни области като психологичното здраве.
Мета удостовери приемането на писмото, само че отхвърли да разяснява неговото наличие
