По 1 млн. души на седмица, пишещи си с ChatGPT,

По 1 млн. души на седмица, пишещи си с ChatGPT, имат мисли за самоубийство
Според обява в блога на OpenAI в понеделник, повече от милион консуматори на ChatGPT изпращат известия всяка седмица, които включват „ експлицитни знаци за евентуално суицидно обмисляне или желание “. Констатацията, част от актуализация за това по какъв начин чатботът обработва чувствителни диалози, е едно от най-директните изказвания на колоса в региона на изкуствения
разсъдък за това по какъв начин изкуственият разсъдък може да изостри проблемите с психологичното здраве.
В допълнение към оценките си за суицидни хрумвания и обвързваните с тях взаимоотношения, OpenAI също по този начин съобщи, че към 0,07 от потребителите, дейни в дадена седмица – към 560 000 от рекламираните 800 милиона седмични консуматори – демонстрират „ вероятни признаци на незабавни психологични болести, свързани с неуравновесеност или фикс идея “. Публикацията предизвестява, че тези
диалози са сложни за разкриване или премерване и че това е първичен разбор.
OpenAI разгласява данни за проблеми с психологичното здраве, свързани с нейния артикул, защото компанията е изправена пред засилен надзор след старта надело, заведено фамилията на младеж,
умрял от самоубийство след дълготрайно взаимоотношение с ChatGPT.
Миналия месец Федералната комерсиална комисия в допълнение стартира широкомащабно следствие на компании, които основават чатботове с изкуствен интелект, в това число OpenAI, с цел да откри по какъв начин те мерят отрицателното влияние върху деца и младежи.
OpenAI твърди в обявата си, че последната актуализация на GPT-5 е понижила броя
на нежеланите поведения от продукта и е подобрила сигурността на потребителите в оценка на модел, включваща повече от 1000 диалога за самонараняване и самоубийство. Компанията не е дала отговор незабавно на настояването за коментар.
„ Нашите нови автоматизирани оценки правят оценка новия модел GPT-5
с 91% сходство с мечтаните от нас държания, в съпоставяне със 77% за предходния модел GPT-5 “, се споделя в обявата на компанията.
OpenAI съобщи, че GPT-5 е разширил достъпа до спешни горещи линии
и е добавил напомняния за потребителите да си вършат почивки по време на дълги сесии. За да усъвършенства модела, компанията съобщи, че е заела 170 клиницисти от своята Глобална мрежа от лекари, състояща се от специалисти в опазването на здравето, с цел да подкрепят проучванията ѝ през последните месеци, в това число оценяване на сигурността на отговорите на модела и подкрепяне на писането
на отговорите от страна на чатбота на въпроси, свързани с психологичното здраве.
„ Като част от тази работа, психиатри и психолози прегледаха повече от 1800 отговора на модела,
включващи съществени обстановки,
свързани с психологичното здраве, и съпоставиха отговорите от новия чат модел GPT‑5 с предходни модели “, сподели OpenAI. Определението на компанията за „ желателно “ включваше установяване дали група от нейните специалисти
са стигнали до същото умозаключение за това какъв би бил подобаващ отговор в избрани обстановки.
Изследователите на изкуствения разсъдък и бранителите на публичното здраве отдавна са внимателни по отношение на склонността на чатботовете да удостоверяват
решенията или заблудите на потребителите, независимо дали те могат
да бъдат нездравословни, проблем, прочут като угодничество. Експертите по психологично здраве също са загрижени за хората, които употребяват чатботове с изкуствен интелект за психическа поддръжка,
и предизвестяват по какъв начин това може да навреди на уязвимите консуматори.
Езикът в обявата на OpenAI дистанцира компанията от всевъзможни евентуални причинно-следствени връзки сред нейния артикул и рецесиите с психологичното здраве, които нейните консуматори изпитват.
„ Симптомите на психологично здраве и прочувственият дистрес
са навсякъде присъстващи в човешките общества и възходящата потребителска база значи, че част от диалозите в ChatGPT включват тези обстановки “, се споделя в обявата на OpenAI.
Изпълнителният шеф на OpenAI, Сам Алтман, по-рано
този месец съобщи в обява в X, че компанията е постигнала прогрес в лекуването на проблеми с психологичното здраве, обявявайки, че OpenAI ще облекчи рестриктивните мерки и скоро ще стартира да разрешава на възрастните да основават еротично наличие.
„ Направихме ChatGPT много рестриктивен, с цел да сме сигурни,
че сме деликатни с проблемите с психологичното здраве. Осъзнаваме, че това го направи по-малко полезен/приятен за доста консуматори, които нямат проблеми с психологичното здраве,
само че поради сериозността на казуса, искахме да го създадем както би трябвало “,
разгласява Алтман. „ Сега, откакто успяхме да смекчим сериозните проблеми с психологичното здраве и разполагаме с нови принадлежности, ще можем безвредно да отпуснем… “