Grok е чатбот с изкуствен интелект, разработен от xAI –

...
Grok е чатбот с изкуствен интелект, разработен от xAI –
Коментари Харесай

Grok – от технологична новост до глобален регулаторен проблем

Grok е чатбот с изкуствен интелект, създаден от xAI – компания, учредена от Илон Мъск. Към юли 2025 година третата му версия е налична като независимо приложение и като добавка към обществената мрежа X, до момента в който Grok 4 се предлага против заплатен абонамент отвън платформата. По данни на компанията последната версия е подготвена благодарение на към 200 000 графични процесора и при проби за езикови модели надминава Gemini 2.5 Pro на Гугъл. Grok поддържа програмиране, логическо размишление, гласова връзка, както и основаване и редактиране на изображения.

Паралелно с техническите благоприятни условия обаче започнаха да се натрупват и съществени рецензии. Подобно на други генеративни AI принадлежности, Grok е упрекван, че „ халюцинира “ – основава подвеждаща или погрешна информация. В края на предходната година казусът закупи ново измерение, откакто в инструмента се появи трендът, прочут като „ облечи я в бикини “.

Потребители всеобщо започнаха да употребяват Grok за манипулиране на фотоси на действителни дами без тяхно единодушие. За дни поръчките ескалираха от относително леки образни промени до унизително и принудително наличие, в това число изображения със полово принуждение и материали, засягащи деца.

Една от пострадалите е 22-годишната фотографка Иви. Тя открива, че нейни изцяло облечени фотоси са били модифицирани от Grok по този начин, че да наподобява по бикини. След като споделя случая обществено за да предизвести други, против нея стартира още по-агресивна вълна от злоупотреби.

„ Туитът просто избухна. Оттогава са направени още толкоз доста изображения с мен и всяко последващо е по-лошо от предходното “, споделя тя. Сред подправените фрагменти има такива, на които е изобразена изцяло гола или в унизителни пози. По думите ѝ самият факт, че сходни изображения могат да бъдат генерирани, е фрапантен.

Анализ на английския вестник Guardian демонстрира, че в пика на абсурда към Grok са отправяни хиляди сходни претенции на час. Съдържанието става все по-деградиращо – включва расистки знаци, подиуми на полово принуждение и манипулирани облици на действителни жертви на убийства. Част от изображенията могат да бъдат избрани като материали със полово принуждение над деца, само че все пак остават налични онлайн.

Според Peryton Intelligence първите сходни поръчки се появяват при започване на декември, а до края на месеца броят им нараства внезапно. На 2 януари те доближават близо 200 000 за един ден. Сред най-крайните случаи е потреблението на Grok за прибавяне на рани от патрони по лицето на Рене Никол Гуд – жена, убита от сътрудник на имиграционните служби в Съединени американски щати.

Реакцията на платформата и на Илон Мъск идва със забавяне. След дни на публичен напън X отчасти лимитира функционалността за генериране на изображения, като я прави налична главно за платени консуматори. Засегнатите дами дефинират мярката като половинчата.

Скандалът докара и до интервенция на регулаторите. Британският медиен регулатор Ofcom стартира публично следствие против X поради „ извънредно тревожни сигнали “, че Grok се употребява за основаване и разпространяване на сексуализирани изображения на дами и деца. Регулаторът изиска от компанията пояснение по какъв начин извършва отговорностите си по Закона за онлайн сигурност и извърши ускорена инспекция на наличните доказателства.

Ако бъдат открити нарушавания, Ofcom може да наложи санкция до 10% от международния оборот на X или до 18 млн. английски лири – според от това коя сума е по-висока. При несъблюдение на условията регулаторът има пълномощия да изиска от съда цялостно блокиране на платформата във Англия.

Темата стигна и до най-високо политическо равнище. Премиерът Киър Стармър назова протичащото се „ позорно “ и „ неприемливо “, а министри от държавното управление обявиха, че Grok не е бил съответно тестван. Илон Мъск отговори, като упрекна английските управляващи в опит за цензура и ограничение на свободата на словото – позиция, подкрепена и от водача на партия „ Реформирай Обединеното кралство “ Найджъл Фараж.

Междувременно Малайзия и Индонезия станаха първите страни в света, които изцяло блокираха достъпа до Grok поради опцията му да основава полови дийпфейкове. Властите в двете страни обявиха, че инструментът е употребен за генериране на порнографско наличие с действителни хора и ще остане блокиран, до момента в който не бъдат въведени ефикасни защитни ограничения.

Случаят с Grok обрисува какъв брой бързо софтуерен артикул може да се трансформира в световен проблем – от обществените мрежи до парламентите и регулаторните органи. За доста от засегнатите дами обаче вредите към този момент са факт – под формата на обществено оскърбление, нарушено персонално пространство и разтърсено доверие, че онлайн платформите могат да ги защитят.

Източник: dariknews.bg


СПОДЕЛИ СТАТИЯТА


КОМЕНТАРИ
НАПИШИ КОМЕНТАР