Семейство на американски студент обвини OpenAI за смъртта на сина си
19-годишен американски студент е умрял след приложимост на рискова композиция от кратом, ксанакс и алкохол, а фамилията му упреква OpenAI, че чатботът ChatGPT е насърчил съдбовното решение.
Случаят бе оголен от Ars Technica и към този момент е предмет на правосъдно дело против компанията.
Според желае Сам Нелсън, 19-годишен студент по логика на психиката, дълго време употребявал ChatGPT като приближен източник на информация. Родителите му настояват, че по време на диалозите чатботът е давал препоръки за приложимост и съчетание на разнообразни субстанции, в това число кратом и ксанакс.
В документите по делото се показва, че в една от последните си връзки младежът попитал дали ксанакс може да помогне против гадене, провокирано от кратом. Според обвиняването ChatGPT предложил доза и описал комбинацията като положително решение, без ясно предизвестие за риска от гибел при разбъркване с алкохол.
Семейството твърди още, че чатботът не е разпознал тревожни признаци като проблеми със зрението и мощно хълцане — вероятни признаци на тежко положение — и не е насочил студента към незабавна здравна помощ.
В отговор OpenAI дефинира случая като „ трогателен “ и съобщи, че моделът ChatGPT-4o, с който студентът е общувал, към този момент не е наличен в същия тип. Компанията акцентира, че актуалните версии разполагат с спомагателни механизми за сигурност и в чувствителни обстановки насочват потребителите към действителни експерти.
Родителите на Сам Нелсън упорстват съдът да потърси отговорност от компанията, да ограничи полемиките за противозаконни опиати в чатбота и да назначи самостоятелен одит на системите с изкуствен интелект.
Случаят още веднъж разпали дебата до каква степен се простира отговорността на фирмите, разработващи изкуствен интелект, и какви опасности крие потреблението на чатботове като сурогат на професионален медицински съвет.
Случаят бе оголен от Ars Technica и към този момент е предмет на правосъдно дело против компанията.
Според желае Сам Нелсън, 19-годишен студент по логика на психиката, дълго време употребявал ChatGPT като приближен източник на информация. Родителите му настояват, че по време на диалозите чатботът е давал препоръки за приложимост и съчетание на разнообразни субстанции, в това число кратом и ксанакс.
В документите по делото се показва, че в една от последните си връзки младежът попитал дали ксанакс може да помогне против гадене, провокирано от кратом. Според обвиняването ChatGPT предложил доза и описал комбинацията като положително решение, без ясно предизвестие за риска от гибел при разбъркване с алкохол.
Семейството твърди още, че чатботът не е разпознал тревожни признаци като проблеми със зрението и мощно хълцане — вероятни признаци на тежко положение — и не е насочил студента към незабавна здравна помощ.
В отговор OpenAI дефинира случая като „ трогателен “ и съобщи, че моделът ChatGPT-4o, с който студентът е общувал, към този момент не е наличен в същия тип. Компанията акцентира, че актуалните версии разполагат с спомагателни механизми за сигурност и в чувствителни обстановки насочват потребителите към действителни експерти.
Родителите на Сам Нелсън упорстват съдът да потърси отговорност от компанията, да ограничи полемиките за противозаконни опиати в чатбота и да назначи самостоятелен одит на системите с изкуствен интелект.
Случаят още веднъж разпали дебата до каква степен се простира отговорността на фирмите, разработващи изкуствен интелект, и какви опасности крие потреблението на чатботове като сурогат на професионален медицински съвет.
Източник: glasnews.bg
КОМЕНТАРИ