OpenAI въвежда родителски контрол след смъртта на тийнейджър
Американската компания за изкуствен интелект OpenAI разгласи, че ще добави наставнически надзор в чатбота си ChatGPT, откакто двойка упрекна системата, че е подтикнала синът им да се самоубие.
„ През идващия месец родителите ще могат да свържат своя акаунт с акаунта на детето си “ и „ да управляват по какъв начин ChatGPT дава отговор с правила за държание, подобаващи за възрастта “, съобщи компанията в своя обява.
Родителите ще получават и вести от ChatGPT, „ когато системата засече, че тяхното дете е в миг на мощен стрес “, съобщи OpenAI, представена от Австралийската радио-телевизионна корпорация.
Компанията разгласи системата за наставнически надзор в блог обява в края на август - ден откакто родители от Калифорния подадоха иск в съда, в който настояват, че ChatGPT е дал на 16-годишния им наследник подробни указания за самоубийство и го е насърчил да осъществя проектите си.
В правосъдния иск се твърди, че в последния им чат на 11 април 2025 година ChatGPT е оказал помощ на Адам да открадне водка от родителите си и е дал механически разбор на примката, която той е направил, потвърждавайки, че „ може евентуално да обеси човек “.
Няколко часа по-късно младежът е бил открит мъртъв, употребявайки същата примка.
В правосъдния иск като ответници са посочени OpenAI и основният изпълнителен шеф Сам Алтман. „ Тази покруса не е била неточност или неочакван крайен случай “, се показва в жалбата.
„ ChatGPT е функционирал тъкмо както е бил планиран: да предизвиква и утвърждава непрестанно всичко, което Адам е изразявал, в това число най-вредните и саморазрушителни мисли, по метод, който се е усещал като надълбоко персонален “, се прибавя в нея.
Според правосъдния иск Адам почнал да употребява ChatGPT като асистент за домашните си задания, само че последователно развил това, което родителите му разказват като нездравословна взаимозависимост.
Миналия месец трипъл j hack на ABC разгласява следствие, разкриващо изказвания, че младежи в Австралия са били полово унизени и даже насърчавани да лишават живота си от AI чатботове.
„ Продължаваме да подобряваме метода, по който нашите модели разпознават и реагират на признаци на душевен и прочувствен дистрес “, съобщи OpenAI във вторник.
Компанията разгласи, че има спомагателни проекти за възстановяване на сигурността на своите чатботове през идващите три месеца, в това число пренасочване на „ някои чувствителни диалози към модел за размишление “, който влага повече „ изчислителна мощ “в генерирането на отговор.
„ През идващия месец родителите ще могат да свържат своя акаунт с акаунта на детето си “ и „ да управляват по какъв начин ChatGPT дава отговор с правила за държание, подобаващи за възрастта “, съобщи компанията в своя обява.
Родителите ще получават и вести от ChatGPT, „ когато системата засече, че тяхното дете е в миг на мощен стрес “, съобщи OpenAI, представена от Австралийската радио-телевизионна корпорация.
Компанията разгласи системата за наставнически надзор в блог обява в края на август - ден откакто родители от Калифорния подадоха иск в съда, в който настояват, че ChatGPT е дал на 16-годишния им наследник подробни указания за самоубийство и го е насърчил да осъществя проектите си.
В правосъдния иск се твърди, че в последния им чат на 11 април 2025 година ChatGPT е оказал помощ на Адам да открадне водка от родителите си и е дал механически разбор на примката, която той е направил, потвърждавайки, че „ може евентуално да обеси човек “.
Няколко часа по-късно младежът е бил открит мъртъв, употребявайки същата примка.
В правосъдния иск като ответници са посочени OpenAI и основният изпълнителен шеф Сам Алтман. „ Тази покруса не е била неточност или неочакван крайен случай “, се показва в жалбата.
„ ChatGPT е функционирал тъкмо както е бил планиран: да предизвиква и утвърждава непрестанно всичко, което Адам е изразявал, в това число най-вредните и саморазрушителни мисли, по метод, който се е усещал като надълбоко персонален “, се прибавя в нея.
Според правосъдния иск Адам почнал да употребява ChatGPT като асистент за домашните си задания, само че последователно развил това, което родителите му разказват като нездравословна взаимозависимост.
Миналия месец трипъл j hack на ABC разгласява следствие, разкриващо изказвания, че младежи в Австралия са били полово унизени и даже насърчавани да лишават живота си от AI чатботове.
„ Продължаваме да подобряваме метода, по който нашите модели разпознават и реагират на признаци на душевен и прочувствен дистрес “, съобщи OpenAI във вторник.
Компанията разгласи, че има спомагателни проекти за възстановяване на сигурността на своите чатботове през идващите три месеца, в това число пренасочване на „ някои чувствителни диалози към модел за размишление “, който влага повече „ изчислителна мощ “в генерирането на отговор.
Източник: glasnews.bg
КОМЕНТАРИ