ChatGPT въвежда „безопасен режим“ за непълнолетни след съдебен иск
OpenAI разгласи, че ще ограничи метода, по който ChatGPT дава отговор на консуматори под 18 години, в случай че те не преминат през системата за установяване на възраст или не дават документ за идентичност. Решението идва след правосъден иск от фамилията на 16-годишен младеж, който се е самоубил през април след месеци диалози с чатбота.
Според компанията, в случай че потребителят не премине през системата за установяване на възраст или не даде документ за идентичност, ChatGPT ще бъде заставен да премине към по-безопасен режим, предопределен за малолетни.
Главният изпълнителен шеф на OpenAI, Сам Алтман, съобщи в блог пост, че компанията слага сигурността над персоналното пространство и свободата на младежите: „ Непълнолетните се нуждаят от забележителна отбрана. “
С новите ограничавания графичното полово наличие ще бъде блокирано, чатботът няма да флиртува с консуматори под 18 години и няма да взе участие в полемики, свързани със самоубийство или самонараняване, даже в подтекста на креативно писане.
Ако системата засече, че малолетният демонстрира мисли за самоубийство, тя ще се опита да се свърже с родителите или, при неспособност, с управляващите, когато има непосредствена заплаха за живота.
Алтман посочи, че новите ограничения ще включват и система за прогнозиране на възрастта, която да оцени потребителите въз основа на метода, по който употребяват ChatGPT. В случай на подозрение, системата автоматизирано ще превключва към режима за под 18 години. В някои случаи потребителите може да бъдат помолени да дават документ за идентичност за инспекция на възрастта.
Съдебният иск против OpenAI е подаден от фамилията на калифорниецa Адам Рейн, който е изпращал до 650 известия на ден на ChatGPT.
Според правосъдните документи, чатботът сякаш е давал инструкции на Адам за методите на самоубийство и даже е предложил помощ за написване на писмо за родителите му. OpenAI призна, че защитните механизми на системата работят по-надеждно при къси диалози, само че при дълги взаимоотношения чатботът може да предложи отговори, които опонират на въведените ограничавания.
Компанията също по този начин разгласи въвеждането на засилени функционалности за сигурност, които ще подсигуряват, че данните, споделяни с ChatGPT, остават поверителни даже за чиновниците на OpenAI. Родителите ще могат да свържат акаунта си с този на детето, да управляват кои функционалности да са налични, да задават часове, в които чатботът не може да се употребява, и да получават вести при рискови обстановки.
Според компанията, в случай че потребителят не премине през системата за установяване на възраст или не даде документ за идентичност, ChatGPT ще бъде заставен да премине към по-безопасен режим, предопределен за малолетни.
Главният изпълнителен шеф на OpenAI, Сам Алтман, съобщи в блог пост, че компанията слага сигурността над персоналното пространство и свободата на младежите: „ Непълнолетните се нуждаят от забележителна отбрана. “
С новите ограничавания графичното полово наличие ще бъде блокирано, чатботът няма да флиртува с консуматори под 18 години и няма да взе участие в полемики, свързани със самоубийство или самонараняване, даже в подтекста на креативно писане.
Ако системата засече, че малолетният демонстрира мисли за самоубийство, тя ще се опита да се свърже с родителите или, при неспособност, с управляващите, когато има непосредствена заплаха за живота.
Алтман посочи, че новите ограничения ще включват и система за прогнозиране на възрастта, която да оцени потребителите въз основа на метода, по който употребяват ChatGPT. В случай на подозрение, системата автоматизирано ще превключва към режима за под 18 години. В някои случаи потребителите може да бъдат помолени да дават документ за идентичност за инспекция на възрастта.
Съдебният иск против OpenAI е подаден от фамилията на калифорниецa Адам Рейн, който е изпращал до 650 известия на ден на ChatGPT.
Според правосъдните документи, чатботът сякаш е давал инструкции на Адам за методите на самоубийство и даже е предложил помощ за написване на писмо за родителите му. OpenAI призна, че защитните механизми на системата работят по-надеждно при къси диалози, само че при дълги взаимоотношения чатботът може да предложи отговори, които опонират на въведените ограничавания.
Компанията също по този начин разгласи въвеждането на засилени функционалности за сигурност, които ще подсигуряват, че данните, споделяни с ChatGPT, остават поверителни даже за чиновниците на OpenAI. Родителите ще могат да свържат акаунта си с този на детето, да управляват кои функционалности да са налични, да задават часове, в които чатботът не може да се употребява, и да получават вести при рискови обстановки.
Източник: moreto.net
КОМЕНТАРИ