Родители съдят ChatGPT и Олтман за самоубийството на 16 годишен тийнейджър
Родителите на младеж, умрял посредством самоубийство, откакто ChatGPT го е насърчавал към способи за самонараняване, съдят OpenAI и изпълнителния шеф Сам Олтман, потвърждавайки, че компанията умишлено е сложила облагата над сигурността, когато е пуснала версията GPT-4o на своя чатбот с изкуствен интелект предходната година.
Адам Рейн, на 16 години, умря на 11 април, откакто месеци наред обсъждаше самоубийство с ChatGPT, съгласно делото, заведено от родителите му в щатския съд в Сан Франциско.
Чатботът е потвърждавал самоубийствените мисли на Рейн, дал е подробна информация за смъртоносни способи за самонараняване и го е инструктирал по какъв начин да открадне алкохол от шкафа с питиета на родителите си и да скрие доказателства за несполучлив опит за самоубийство, настояват те. ChatGPT даже е предложил да напише предсмъртно писмо, настояват в делото родителите - Матю и Мария Рейн.
Делото цели да държи OpenAI виновни за непозволена гибел и нарушавания на законите за сигурност на продуктите, като желае неуточнени парични компенсации.
Говорител на OpenAI съобщи, че компанията е натъжена от гибелта на Рейн и че ChatGPT включва защитни ограничения, като ориентиране на хората към спешни линии за помощ.
" Въпреки че тези защитни ограничения работят най-добре при елементарни, къси диалози, с времето научихме, че те могат да станат по-малко надеждни при дълги взаимоотношения, при които част от образованието за сигурност на модела може да отслабне, " сподели представителят, добавяйки, че OpenAI ще продължи да усъвършенства защитните си ограничения.
OpenAI не разяснява съответно обвиняванията в делото.
Тъй като чатботовете с изкуствен интелект стават все по-реалистични, фирмите популяризират способността им да служат като довереници, а потребителите стартират да разчитат на тях за прочувствена поддръжка. Но специалисти предизвестяват, че разчитането на автоматизация за препоръки за психологично здраве носи рискове, а фамилии, чиито близки са умряли след взаимоотношения с чатботове, подлагат на критика неналичието на защитни ограничения.
OpenAI съобщи в блог обява, че възнамерява да добави наставнически надзор и изследва способи за свързване на консуматори в рецесия с действителни запаси, в това число посредством евентуално създаване на мрежа от лицензирани експерти, които могат да дават отговор посредством самия ChatGPT.
OpenAI пусна GPT-4o през май 2024 година в опит да остане водеща в конкуренцията за изкуствен интелект. OpenAI знаеше, че функционалности, които помнят минали взаимоотношения, имитират човешка емпатия и демонстрират прекалено равнище на удостоверение, биха заплашили уязвимите консуматори без защитни ограничения, само че все пак пусна продукта, настояват Рейн в делото си.
" Това решение докара до два резултата: оценката на OpenAI скочи от 86 милиарда $ до 300 милиарда $, а Адам Рейн се самоуби, " споделиха те.
Делото на Рейн също по този начин желае заповед, която да задължи OpenAI да ревизира възрастта на потребителите на ChatGPT, да отхвърля запитвания за способи за самонараняване и да предизвестява потребителите за риска от психическа взаимозависимост.
Адам Рейн, на 16 години, умря на 11 април, откакто месеци наред обсъждаше самоубийство с ChatGPT, съгласно делото, заведено от родителите му в щатския съд в Сан Франциско.
Чатботът е потвърждавал самоубийствените мисли на Рейн, дал е подробна информация за смъртоносни способи за самонараняване и го е инструктирал по какъв начин да открадне алкохол от шкафа с питиета на родителите си и да скрие доказателства за несполучлив опит за самоубийство, настояват те. ChatGPT даже е предложил да напише предсмъртно писмо, настояват в делото родителите - Матю и Мария Рейн.
Делото цели да държи OpenAI виновни за непозволена гибел и нарушавания на законите за сигурност на продуктите, като желае неуточнени парични компенсации.
Говорител на OpenAI съобщи, че компанията е натъжена от гибелта на Рейн и че ChatGPT включва защитни ограничения, като ориентиране на хората към спешни линии за помощ.
" Въпреки че тези защитни ограничения работят най-добре при елементарни, къси диалози, с времето научихме, че те могат да станат по-малко надеждни при дълги взаимоотношения, при които част от образованието за сигурност на модела може да отслабне, " сподели представителят, добавяйки, че OpenAI ще продължи да усъвършенства защитните си ограничения.
OpenAI не разяснява съответно обвиняванията в делото.
Тъй като чатботовете с изкуствен интелект стават все по-реалистични, фирмите популяризират способността им да служат като довереници, а потребителите стартират да разчитат на тях за прочувствена поддръжка. Но специалисти предизвестяват, че разчитането на автоматизация за препоръки за психологично здраве носи рискове, а фамилии, чиито близки са умряли след взаимоотношения с чатботове, подлагат на критика неналичието на защитни ограничения.
OpenAI съобщи в блог обява, че възнамерява да добави наставнически надзор и изследва способи за свързване на консуматори в рецесия с действителни запаси, в това число посредством евентуално създаване на мрежа от лицензирани експерти, които могат да дават отговор посредством самия ChatGPT.
OpenAI пусна GPT-4o през май 2024 година в опит да остане водеща в конкуренцията за изкуствен интелект. OpenAI знаеше, че функционалности, които помнят минали взаимоотношения, имитират човешка емпатия и демонстрират прекалено равнище на удостоверение, биха заплашили уязвимите консуматори без защитни ограничения, само че все пак пусна продукта, настояват Рейн в делото си.
" Това решение докара до два резултата: оценката на OpenAI скочи от 86 милиарда $ до 300 милиарда $, а Адам Рейн се самоуби, " споделиха те.
Делото на Рейн също по този начин желае заповед, която да задължи OpenAI да ревизира възрастта на потребителите на ChatGPT, да отхвърля запитвания за способи за самонараняване и да предизвестява потребителите за риска от психическа взаимозависимост.
Източник: mediapool.bg
КОМЕНТАРИ