&format=webp)
Grok „излиза“ от секси режим и се впуска в разработката на AI приложение за деца
Докато AI се разраства в нови направления, в това число и в областта на цифровата компания, Илон Мъск възнамерява своя идващ талантлив ход: а за какво той да не е профилирано AI приложение за деца, основано на Grok – AI чатботът на xAI (същият, прочут със антисемитските си изявления и AI компаньонка, която влиза в NSFW режим…).
Новата платформа, наречена Baby Grok, ще бъде ориентирана към подрастващото потомство и ще предлага „ наличие, уместно за деца “, съгласно изказване на Мъск в X, чийто притежател също е той.
We’re going to make Baby Grok @xAI, an app dedicated to kid-friendly content
— Elon Musk (@elonmusk) July 20, 2025
Все отново би трябвало да признаем, че ходът наподобява пазарно аргументиран: близо 75% от младежите в Съединени американски щати към този момент са употребявали AI компаньони, а ранното създаване на преданост към марката е извънредно значимо. Но до момента в който бизнес логиката е налице, специалистите в региона на отбраната на децата изричат паниката си, написа Fast Company.
„ Ако X и xAI стартират да създават артикули за деца, това ще бъде притеснително. Историята им ясно демонстрира, че те не слагат сигурността на децата като главен приоритет “, споделя Хейли Макнамара, вицепрезидент на Националния център за битка със половата употреба (NCOSE).
Макнамара не е сама в рецензиите си. По тематиката се изрича и Анди Бъроуз, шеф на английската фондация Molly Rose, основана от родителите на 14-годишната Моли Ръсел, която се самоубива, откакто е изложена на токсично наличие в обществените мрежи.
„ Плановете за Baby Grok ще провокират паника в цялото гражданско общество. Рисковете, свързани с дизайна на AI чатботове, неналичието на отбрани и вероятните „ халюцинации “ в отговорите, към момента не са преодолени от промишлеността “, акцентира Бъроуз.
Има и съответни учредения за безпокойствие. Експертите напомнят, че xAI стои зад основаването на чатбота Ани, който бързо е сексуализиран от потребителите на платформата, както и Bad Rudi – алена панда, която нормално дава отговор с обиди. Според Бъроуз, заплахите се крият освен в наличието, а и в това по какъв начин децата могат прочувствено да се привържат към AI ботове.
„ Системи от този вид симулират дълбоки и прочувствени връзки. Деца могат да стартират да търсят поддръжка и препоръки от чатботове, което да докара до неприятни последици “, споделя той. „ Дори възрастни се затрудняват да разграничат виртуалната връзка от действителната. “
NCOSE повдига и въпроса за организационния потенциал на платформите на Мъск да обезпечат сигурност за деца. След придобиването на X доста от чиновниците, отговарящи за отбраната на деца, бяха освободени.
Платформата също по този начин разрешава порнографско наличие без съществени механизми за инспекция на възрастта или единодушието, припомня Макнамара. Според нея, това е основало среда, в която злоупотребите не просто съществуват, а даже се предизвикват поради неналичието на съответна интервенция.
„ Липсата на надзор, оставянето на уязвимо наличие и неналичието на реакция – това са индикации, че компанията не би трябвало да работи с деца “, безапелационна е тя.
В Обединеното кралство новият Закон за онлайн сигурност (Online Safety Act) дава най-малко минимална регулаторна рамка за планове като Baby Grok. Но, както акцентира Бъроуз, X се движи постепенно в осъществяването на условията, а в доста други страни сходни законодателни механизми липсват.
„ Реалният риск не е единствено в самата технология, а в това какъв брой неприятно проектирани и нерегулирани артикули могат да доближат до децата – без никаква действителна отбрана “, споделя той.
Новата платформа, наречена Baby Grok, ще бъде ориентирана към подрастващото потомство и ще предлага „ наличие, уместно за деца “, съгласно изказване на Мъск в X, чийто притежател също е той.
We’re going to make Baby Grok @xAI, an app dedicated to kid-friendly content
— Elon Musk (@elonmusk) July 20, 2025
Все отново би трябвало да признаем, че ходът наподобява пазарно аргументиран: близо 75% от младежите в Съединени американски щати към този момент са употребявали AI компаньони, а ранното създаване на преданост към марката е извънредно значимо. Но до момента в който бизнес логиката е налице, специалистите в региона на отбраната на децата изричат паниката си, написа Fast Company.
„ Ако X и xAI стартират да създават артикули за деца, това ще бъде притеснително. Историята им ясно демонстрира, че те не слагат сигурността на децата като главен приоритет “, споделя Хейли Макнамара, вицепрезидент на Националния център за битка със половата употреба (NCOSE).
Макнамара не е сама в рецензиите си. По тематиката се изрича и Анди Бъроуз, шеф на английската фондация Molly Rose, основана от родителите на 14-годишната Моли Ръсел, която се самоубива, откакто е изложена на токсично наличие в обществените мрежи.
„ Плановете за Baby Grok ще провокират паника в цялото гражданско общество. Рисковете, свързани с дизайна на AI чатботове, неналичието на отбрани и вероятните „ халюцинации “ в отговорите, към момента не са преодолени от промишлеността “, акцентира Бъроуз.
Има и съответни учредения за безпокойствие. Експертите напомнят, че xAI стои зад основаването на чатбота Ани, който бързо е сексуализиран от потребителите на платформата, както и Bad Rudi – алена панда, която нормално дава отговор с обиди. Според Бъроуз, заплахите се крият освен в наличието, а и в това по какъв начин децата могат прочувствено да се привържат към AI ботове.
„ Системи от този вид симулират дълбоки и прочувствени връзки. Деца могат да стартират да търсят поддръжка и препоръки от чатботове, което да докара до неприятни последици “, споделя той. „ Дори възрастни се затрудняват да разграничат виртуалната връзка от действителната. “
NCOSE повдига и въпроса за организационния потенциал на платформите на Мъск да обезпечат сигурност за деца. След придобиването на X доста от чиновниците, отговарящи за отбраната на деца, бяха освободени.
Платформата също по този начин разрешава порнографско наличие без съществени механизми за инспекция на възрастта или единодушието, припомня Макнамара. Според нея, това е основало среда, в която злоупотребите не просто съществуват, а даже се предизвикват поради неналичието на съответна интервенция.
„ Липсата на надзор, оставянето на уязвимо наличие и неналичието на реакция – това са индикации, че компанията не би трябвало да работи с деца “, безапелационна е тя.
В Обединеното кралство новият Закон за онлайн сигурност (Online Safety Act) дава най-малко минимална регулаторна рамка за планове като Baby Grok. Но, както акцентира Бъроуз, X се движи постепенно в осъществяването на условията, а в доста други страни сходни законодателни механизми липсват.
„ Реалният риск не е единствено в самата технология, а в това какъв брой неприятно проектирани и нерегулирани артикули могат да доближат до децата – без никаква действителна отбрана “, споделя той.
Източник: profit.bg
КОМЕНТАРИ