OpenAI и Anthropic внедряват нови начини за откриване на непълнолетните

OpenAI и Anthropic внедряват нови способи за разкриване на малолетните консуматори на своите чатботове. OpenAI неотдавна актуализира описанието си за това по какъв начин ChatGPT би трябвало да взаимодейства с потребителите на възраст от 13 до 17 години, до момента в който Anthropic работи върху нов способ за идентифициране и блокиране на потребителите под 18 години.

Тази седмица OpenAI актуализира своя документ „ Спецификация на модела “, който урежда държанието на AI-моделите на компанията, добавяйки четири нови клаузи по отношение на взаимоотношенията с малолетните консуматори. Съгласно тези промени, ChatGPT ще „ сложи сигурността на подрастващите преди всичко, даже когато това опонира на други цели “. Това значи, че чатботът ще насочва малолетните консуматори към по-безопасни варианти, когато други ползи, като да вземем за пример „ оптималната интелектуална независимост “, опонират на опасенията за сигурност.

Освен това се отбелязва, че ChatGPT би трябвало да „ предизвиква поддръжката в действителния свят “, в това число посредством приканване на офлайн взаимоотношения и установяване на ясни упования за взаимоотношението на младите консуматори с логаритъма. В документа се показва също, че ChatGPT би трябвало „ да се отнася към младежите като към младежи “, предлагайки „ топлота и почитание “, вместо да дава снизходителни отговори или да се отнася към тях като към възрастни.

Тези промени идват на фона на продължаващия законодателен напън върху ИИ-компаниите и техните чатботове заради евентуалното им влияние върху психологичното здраве на потребителите. OpenAI към този момент е изправена пред правосъден иск, в който се твърди, че ChatGPT е предоставила на младеж, направил самоубийство, информация по какъв начин да се нарани или да се самоубие. OpenAI преди този момент интегрира наставнически надзор и съобщи, че логаритъмът ѝ към този момент няма да разисква самоубийства с младежите. Това е част от по-голяма самодейност за онлайн регулация, която включва наложително потвърждаване на възрастта за някои услуги.

OpenAI има вяра, че измененията ще основат „ по-силни механизми за отбрана, по-безопасни други възможности и поощряване на търсенето на поддръжка в действителния свят, когато диалозите доближат рискови равнища “. Компанията добави, че ChatGPT в такива случаи ще поучава младежите да търсят помощ от службите за незабавна помощ и спешни центрове. Едновременно с това OpenAI разгласи идното пускане на AI-модел за прогнозиране на възрастта на потребителите. Ако системата дефинира, че потребителят е под 18 години, защитните механизми ще се задействат автоматизирано.

Anthropic не разрешава на малолетните консуматори да взаимодействат с чатбота ѝ Claude. За тази цел разработчиците внедряват ограничения за разкриване и блокиране на сметки на малолетните консуматори. Компанията работи върху нова система, способна да открива „ фини речеви сигнали, които демонстрират, че потребителят може да е малолетен “. В същото време Anthropic образова Claude да реагира по подобаващ метод, когато диалогът се насочи към самоубийство или самонараняване.