ChatGPT ще бъде внимателен с психиката: OpenAI ще въведе таймаути и разпознаване на стреса
Хората все по-често употребяват ИИ-чатботове, с цел да получат препоръки в любовта или логика на психиката. Понякога обаче връзката с AI-услугите има и отрицателни последствия за психологичното здраве. OpenAI реши да актуализира ChatGPT, тъй че да може по-добре да разпознава признаците на психоемоционална неустойчивост и да дава потребни препоръки в сложни обстановки.
Компанията работи с специалисти по психологично здраве и консултативни групи, с цел да направи отговорите на чатбота по-информирани и безвредни, изключително когато става въпрос за тревога или спешни обстановки.
Необходимостта от сходни промени породи, откакто редица изявления оповестиха за случаи, в които ChatGPT освен не съумява да помогне на хора в уязвими положения, само че и несъзнателно задълбочава техните заблуди или прочувствена взаимозависимост. Например, през април компанията анулира актуализация, която караше чатбота да се съгласява с потребителите прекомерно постоянно, даже и по рискови тематики. По това време OpenAI призна, че несъразмерната „ съгласност “ на чатбота може да аргументи тревога и щета.
Компанията признава, че GPT-4o не постоянно навреме е успявал да разпознае признаците на дезориентация или прочувствена взаимозависимост. Това може да сътвори неправилно усещане за схващане и поддръжка от страна на изкуствения разсъдък, изключително за уязвимите консуматори. Ето за какво новите промени целят да подсигуряват, че ChatGPT дава тествана информация и запаси за психическа поддръжка, когато е належащо.
За да предотврати изтощаването на потребителите по време на дълги чат сесии с бота, OpenAI прибавя нова функционалност, наречена увещание за отмора. Ако сте чатили с ChatGPT прекомерно дълго, ще се появи известие с текст „ Чатите прекомерно дълго — може би е време за отмора? “ и можете или да продължите чата, или да прекратите диалога. OpenAI споделя, че ще продължи да усъвършенства логаритмите за това по какъв начин се демонстрират тези вести.
ChatGPT към този момент ще ви припомня да си вършиме почивки / OpenAI
Подобни функционалности от дълго време се употребяват от YouTube, Instagram, TikTok, Xbox и други платформи. Например, платформата Character.AI вкара система за известяван на родителите, в случай че децата им беседват с евентуално рискови ботове. Това беше отговор на правосъдни каузи, които упрекнаха компанията в потребление на чатботове за поощряване на самонараняване.
Друга смяна, която следва скоро, е предпазливостта при отговаряне на чувствителни запитвания. Сега, когато консуматор попита нещо от рода на „ Трябва ли да се разделя с колегата си? “, ChatGPT няма да дава директни препоръки, а ще ви помогне да обмислите опциите си и техните последствия.
В този подтекст е значимо да си спомните, че ChatGPT може да трансформира метода, по който мислите, и може би даже не го осъзнавате. До тези заключения се е стигнало след взаимно проучване на специалистите от Тринити Колидж, Дъблин, и Американското сдружение за прогрес в науката (AAAS).
