OpenAI въвежда нови правила за защита на децата в ChatGPT
AI чатботът към този момент ще отхвърля диалози с флирт и ще следи за рискови мисли
OpenAI подхваща нови стъпки за повишение на сигурността на своя известен чатбот ChatGPT, като ограниченията са ориентирани главно към отбрана на малолетните консуматори. Промените идват на фона на възходящата социална угриженост и правосъдни каузи, свързващи потреблението на изкуствен интелект с трагични произшествия с младежи.
Компанията стяга разпоредбите за наличието, налично за консуматори под 18-годишна възраст. Според новите политики, чатботът ще отхвърля да води диалози с подмятания за флирт и ще изключва разискването на тематики като самоубийство и самонараняване, даже те да са в живописен подтекст.
Реакция след публичния напън
Решението на OpenAI е повлияно от редица случаи с висок публичен интерес, в които родители упрекват AI услуги в допринасяне за гибелта на техните деца. Въпреки че компанията и преди е прилагала форми на наставнически надзор, сегашните ограничения са доста по-строги.
Една от обсъжданите ограничения е обвързвана с по-прецизното установяване на възрастта на потребителите. В случай че системата откри съществуване на рискови мисли у младеж, тя може да се опита да уведоми родителите или даже да се свърже със службите за незабавна помощ, в случай че реши, че съществува непосредствена заплаха за живота.
Предизвикателството пред огромните езикови модели
Главният изпълнителен шеф на OpenAI, Сам Алтман, неведнъж е коментирал нуждата от намиране на баланс сред свободата на изложение и сигурността. Компанията признава, че е изправена пред фундаментален проблем – до момента в който възрастните консуматори изискват оптималната независимост, отбраната на децата постанова съществени ограничавания.
Първоначално ChatGPT работеше със строги филтри, само че възходящата конкуренция от нецензурирани други възможности принуди компанията да ги смекчи. Сегашната смяна в курса демонстрира, че OpenAI още веднъж слага сигурността като главен приоритет, изключително когато става въпрос за най-уязвимите консуматори. Подобни начинания се следят и при други софтуерни колоси като YouTube, които също вкарват логаритми за по-добра отбрана на младежите от неуместно наличие.
OpenAI подхваща нови стъпки за повишение на сигурността на своя известен чатбот ChatGPT, като ограниченията са ориентирани главно към отбрана на малолетните консуматори. Промените идват на фона на възходящата социална угриженост и правосъдни каузи, свързващи потреблението на изкуствен интелект с трагични произшествия с младежи.
Компанията стяга разпоредбите за наличието, налично за консуматори под 18-годишна възраст. Според новите политики, чатботът ще отхвърля да води диалози с подмятания за флирт и ще изключва разискването на тематики като самоубийство и самонараняване, даже те да са в живописен подтекст.
Реакция след публичния напън
Решението на OpenAI е повлияно от редица случаи с висок публичен интерес, в които родители упрекват AI услуги в допринасяне за гибелта на техните деца. Въпреки че компанията и преди е прилагала форми на наставнически надзор, сегашните ограничения са доста по-строги.
Една от обсъжданите ограничения е обвързвана с по-прецизното установяване на възрастта на потребителите. В случай че системата откри съществуване на рискови мисли у младеж, тя може да се опита да уведоми родителите или даже да се свърже със службите за незабавна помощ, в случай че реши, че съществува непосредствена заплаха за живота.
Предизвикателството пред огромните езикови модели
Главният изпълнителен шеф на OpenAI, Сам Алтман, неведнъж е коментирал нуждата от намиране на баланс сред свободата на изложение и сигурността. Компанията признава, че е изправена пред фундаментален проблем – до момента в който възрастните консуматори изискват оптималната независимост, отбраната на децата постанова съществени ограничавания.
Първоначално ChatGPT работеше със строги филтри, само че възходящата конкуренция от нецензурирани други възможности принуди компанията да ги смекчи. Сегашната смяна в курса демонстрира, че OpenAI още веднъж слага сигурността като главен приоритет, изключително когато става въпрос за най-уязвимите консуматори. Подобни начинания се следят и при други софтуерни колоси като YouTube, които също вкарват логаритми за по-добра отбрана на младежите от неуместно наличие.
Източник: dunavmost.com
КОМЕНТАРИ