OpenAI въвежда нови предпазни мерки в ChatGPT след критики за вредно влияние върху психичното здраве
OpenAI разгласи нови функционалности за сигурност в ChatGPT, ориентирани към по-добро различаване на признаци на душевен и прочувствен стрес у потребителите. Решението идва след вътрешен разбор и случаи, в които чатботът не е реагирал съответно на уязвими хора, търсещи прочувствена поддръжка, заяви Euronews.
„ Не постоянно го вършим вярно “, признават от компанията в публично изказване. „ Нашият метод ще продължи да се развива, до момента в който се учим от действителната приложимост. “
С възходящото потребление на изкуствен интелект за персонални съвещания, от ден на ден хора разчитат на ChatGPT за помощ при житейски алтернативи. Въпреки това, OpenAI беше подложена на рецензии, откакто се появиха случаи на нездравословни взаимоотношения. Един от тях включва 30-годишен мъж с аутизъм, който е бил приет в болница след маниакален епизод. Според отчети, ChatGPT е затвърдил неговото подвеждане, че е разкрил метод да управлява времето.
Новите ограничения ще разрешат на ChatGPT:
Да разпознава по-добре признаци на психическа криза;
Да предлага основани на доказателства ресурси;
Да предизвиква почивки по време на дълги сесии;
Да заобикаля даването на безапелационни препоръки при персонални решения.
Например, чатботът към този момент няма да дава отговор непосредствено на въпроси като „ Трябва ли да се разделя с приятеля си? “ — вместо това ще подкрепя потребителя посредством насочващи въпроси, които да улеснят самоанализ и взимане на осведомено решение.
OpenAI също по този начин основава съвещателен съвет с специалисти по психологично здраве, младежко развиване и взаимоотношение човек-компютър, които ще вземат участие в оформянето на бъдещите актуализации.
Компанията акцентира, че задачата не е ChatGPT да размени психическата помощ, а да бъде „ потребен в ежедневни обстановки “ — да вземем за пример при подготовка за сложен диалог или при потребност от структуриране на мисли.
Експерти обаче предизвестяват, че същинската поддръжка при психологични усложнения се случва посредством човешка връзка и доверие, каквито изкуственият разсъдък не може да размени.
Това не е първият случай, в който OpenAI трансформира държанието на ChatGPT в отговор на рецензии. През април компанията анулира актуализация, за която се твърдеше, че е направила чатбота „ прекомерно хвалебствен и прелестен “, даже когато това не е било потребно.
„ ChatGPT от време на време споделяше това, което звучи хубаво, вместо това, което е в действителност потребно “, признаха от компанията тогава.
„ Не постоянно го вършим вярно “, признават от компанията в публично изказване. „ Нашият метод ще продължи да се развива, до момента в който се учим от действителната приложимост. “
С възходящото потребление на изкуствен интелект за персонални съвещания, от ден на ден хора разчитат на ChatGPT за помощ при житейски алтернативи. Въпреки това, OpenAI беше подложена на рецензии, откакто се появиха случаи на нездравословни взаимоотношения. Един от тях включва 30-годишен мъж с аутизъм, който е бил приет в болница след маниакален епизод. Според отчети, ChatGPT е затвърдил неговото подвеждане, че е разкрил метод да управлява времето.
Новите ограничения ще разрешат на ChatGPT:
Да разпознава по-добре признаци на психическа криза;
Да предлага основани на доказателства ресурси;
Да предизвиква почивки по време на дълги сесии;
Да заобикаля даването на безапелационни препоръки при персонални решения.
Например, чатботът към този момент няма да дава отговор непосредствено на въпроси като „ Трябва ли да се разделя с приятеля си? “ — вместо това ще подкрепя потребителя посредством насочващи въпроси, които да улеснят самоанализ и взимане на осведомено решение.
OpenAI също по този начин основава съвещателен съвет с специалисти по психологично здраве, младежко развиване и взаимоотношение човек-компютър, които ще вземат участие в оформянето на бъдещите актуализации.
Компанията акцентира, че задачата не е ChatGPT да размени психическата помощ, а да бъде „ потребен в ежедневни обстановки “ — да вземем за пример при подготовка за сложен диалог или при потребност от структуриране на мисли.
Експерти обаче предизвестяват, че същинската поддръжка при психологични усложнения се случва посредством човешка връзка и доверие, каквито изкуственият разсъдък не може да размени.
Това не е първият случай, в който OpenAI трансформира държанието на ChatGPT в отговор на рецензии. През април компанията анулира актуализация, за която се твърдеше, че е направила чатбота „ прекомерно хвалебствен и прелестен “, даже когато това не е било потребно.
„ ChatGPT от време на време споделяше това, което звучи хубаво, вместо това, което е в действителност потребно “, признаха от компанията тогава.
Източник: moreto.net
КОМЕНТАРИ