OpenAI обяви, че до края на септември ще пусне нова

OpenAI разгласи, че до края на септември ще пусне нова версия на ChatGPT, основана особено за консуматори под 18 години. Решението идва на фона на засилен публичен и регулаторен напън по отношение на въздействието на чатботовете върху деца и младежи.

Главният изпълнителен шеф Сам Алтман признава, че компанията е изправена пред сложна алтернатива – по какъв начин да съчетае свободата, поверителността и сигурността на малолетните. „ Разбираме, че тези правила си опонират и не всеки ще бъде склонен с метода, по който ги балансираме. Това са сложни решения, само че след диалози с специалисти имаме вяра, че това е най-хубавото и желаеме да бъдем транспарантни в желанията си “, написа Алтман в блога на компанията.

Новият модел на ChatGPT за деца автоматизирано ще насочва потребителите под 18 години към приспособена среда. Ако възрастта е неразбираема, системата по дифолт ще предлага версията за малолетни. OpenAI създава и технология за предсказание на възрастта, а в някои страни може да се изисква документ за идентичност, съгласно Fast Company.

Мерките включват блокиране на полово наличие, възбрана за флирт и отвод от дискутиране на тематики като самонараняване. Новият режим за наставнически надзор дава опция за „ blackout hours “ – интервали, в които достъпът до чатбота е стеснен, както и алтернатива родителите да свържат акаунта на детето си със своя персонален.

Ако ChatGPT засече известия, свързани със суицидни мисли, моделът ще изпраща сигнал към настойниците, а при заплаха за живота – непосредствено към управляващите. „ Ние слагаме сигурността на първо място останало, когато става въпрос за здравето и живота на младежите “, изяснява Алтман.

Ходът на OpenAI идва по-малко от седмица откакто Федералната комерсиална комисия на Съединени американски щати стартира следствие против няколко компании за изкуствен интелект, измежду които Meta и OpenAI, поради рисковете за психологичното здраве на подрастващите. „ AI чатботовете могат да имитират човешки страсти и държание и постоянно са проектирани да споделят като другар или приближен помощник, което може да накара децата да построяват връзки с тях “, предизвестява регулаторът.

Новите ограничения се появяват и на фона на тревожни случаи на самоубийства и принуждение, свързани с продължителни диалози с изкуствен интелект. Подобни вести ускоряват публичния напън върху бранша, а неналичието на федерална регулация оставя фирмите сами да дефинират границите.

Самият Алтман не крие, че носи персонална отговорност за всичко, което се случва: „ Човекът, който би трябвало да държите виновен за тези решения, съм аз. Аз съм общественото лице и в последна сметка имам опцията да ги трансформирам или спирам “, споделя той в изявление, представен от WIRED.

В друго свое присъединяване той даже признава, че от време на време се изкушава да пусне функционалности, които биха ускорили растежа на компанията, като прибавя: „ Все още не сме поставили sexbot аватар в ChatGPT. “

Новата самодейност на OpenAI може да се преглежда и като стратегически PR ход – проява, че чатботовете са персонален инструмент, а намесата в диалозите би трябвало да се случва само в обстановки на непосредствена заплаха. Но тя е и знак, че борбата за сигурността на малолетните в ерата на изкуствения разсъдък едвам стартира – и ще продължи да бъде значима тематика както за регулатори, по този начин и за самите компании.