Разсъблича ли чатботът Grok жени без тяхното съгласие? Създава ли

" Разсъблича " ли чатботът Grok дами без тяхното единодушие? Създава ли и популяризира ли сексуализирани изображения на малолетни? Сигнали за това има от разнообразни точки на света, а следствия и инспекции се приготвят или към този момент текат против изкуствения разсъдък на компанията xAI, интегриран в обществената мрежа X на Илон Мъск.

Сред страните са Франция, Англия, Индия и Малайзия. Проверки текат и в европейските институции.



Допълнителен публичен отзив провокира и реакцията на Ашли Сейнт Клеър, майка на едно от децата на Мъск. Тя съобщи, че Grok е бил употребен за основаване на deepfake изображения, при които нейното лице е било поставяно върху нецензурен изображения и дефинира случилото се като тежко персонално посягане.

Европейската комисия разгласи, че преглежда „ доста съществено “ подадените тъжби против Grok. Те включват изказвания, че така наречен spicy mode в чата разрешава генерирането на полово наличие, в някои случаи с присъединяване на деца. Говорителят на Комисията по цифровите въпроси Томас Рение съобщи, че сходни практики са противозаконни и „ нямат място в Европа “.

Паралелно с това английският медиен регулатор Ofcom заяви, че е в директна връзка с X и xAI, с цел да обясни какви ограничения са подхванати за отбрана на потребителите във Англия. Регулаторът ревизира дали платформата може да е в нарушаване на Online Safety Act поради AI-генерирани сексуализирани изображения на деца, както и поради случаи на основаване и разпространяване на интимни изображения на дами без тяхното единодушие. В взаимозависимост от отговора на компанията Ofcom ще реши дали да стартира публично следствие.

Във Франция прокуратурата в Париж удостовери, че е почнала следствие за разпространяването на deepfake изображения с малолетни, генерирани от Grok и оповестени в обществената мрежа X. Поводът са сигнали от френски депутати и от трима министри, които са докладвали за „ очевидно нелегално наличие “ и са поискали незабавното му унищожаване. От прокуратурата показват, че сходни дейности подлежат на наказателна отговорност, в това число вероятни присъди отнемане от независимост и санкции.

Върховният комисар на Франция по въпросите на децата Сара Ел Айри съобщи, че е „ възмутена “ от тези практики. Случаят добавя към този момент почналото следствие на френското звено за битка с киберпрестъпленията против X, което през ноември беше разширено и поради разпространяване на антисемитско наличие и отказване на Холокоста посредством Grok.

Натискът върху Grok не се лимитира до Европа. На 2 януари индийското министерство на осведомителните технологии даде на X период от 72 часа да приключи основаването на „ непочтено, порнографско и нелегално наличие “ посредством Grok и да показа отчет за подхванатите ограничения. Индийските управляващи предизвестиха, че при несъблюдение X може да понесе правни последствия и наказания.

В Малайзия комисията по връзки и мултимедия също заяви, че проверява онлайн злоупотреби в X, в това число разпространяването на „ жестоко обидно и нездравословно наличие “, обвързвано с потреблението на принадлежности с изкуствен интелект.

Въпреки почналите следствия сходни изображения не престават да се популяризират в X - на фона на обещанията на платформата да стопира консуматори, които основават нелегално наличие посредством Grok. След промени в чатбота през декември стана по-лесно да се качват фотоси и да се желаят промени по тях, в това число „ унищожаване на облеклата “. Това не значи цялостна голота, само че води до изображения на хора по долни дрехи, в бански или в ясно сексуализирани пози.

По данни на неправителствената организация AI Forensics повече от половината от оценените изображения, основани от Grok в края на декември, демонстрират хора по долни дрехи или пo бански. Около 2% от тях евентуално включват малолетни, в това число доста дребни деца. Изследователите показват, че забележителна част от това наличие остава налично онлайн.

Илон Мъск в началото реагира с подигравка на протичащото се, само че по-късно съобщи, че „ всеки, който употребява Grok за нелегално наличие, ще понесе същите последици, както в случай че го качи ръчно “. От X обявиха, че отстраняват нелегално наличие, стопират профили и си сътрудничат с управляващите, в това число при случаи, свързани със полова корист с деца.

Въпреки тези уверения xAI не е показала съответна информация за техническите ограничения, които подхваща. Публикувано изказване от името на Grok за „ поправени защитни механизми “ по-късно беше несъмнено като автоматизирано генерирано от самия AI.