Мъж от Южна Корея беше осъден на затвор за използване на изкуствен интелект за генериране на експлоатационни изображения на деца, първият случай от този вид в страната, тъй като съдилищата по света се сблъскват с използването на нови технологии за създаване на обидно сексуално съдържание.
Неназованият мъж, на възраст около 40 години, беше осъден на две години и половина затвор този месец, според окръжния съд в Пусан и окръжната прокуратура.
Той е създал около 360 изображения, генерирани от AI през април, казаха от прокуратурата на CNN. Изображенията не са разпространени и са конфискувани от полицията.
По време на делото прокурорите твърдяха, че определението за сексуално експлоатационен материал трябва да включва описания на сексуално поведение от „виртуални хора“, а не само външния вид на действителни деца.
Решението показа, че съдържанието със сексуално насилие може да включва изображения, направени с технология на „високо ниво“, която е достатъчно реалистична, за да изглежда като истински деца и непълнолетни, казаха от прокуратурата.
Случаят идва в момент, когато правителствата по света се борят с експлозията на AI индустрията, с широкообхватни въздействия, вариращи от авторски права и интелектуална собственост до национална сигурност, лична поверителност и изрично съдържание.
Adobe Stock Мнозина сега се надпреварват да регулират технологията – особено след като случаи като присъдата в Южна Корея подчертават как AI може да се използва за нарушаване на телесната автономност и безопасност на хората, особено за жени и непълнолетни.
По-рано този месец полицията в Испания започна разследване, след като изображения на непълнолетни момичета бяха променени с AI, за да се премахнат дрехите им и изпратени из града. В един случай момче се е опитало да изнуди едно от момичетата, използвайки манипулиран образ на нейното голо, каза майката на момичето пред телевизионния канал Canal Extremadura.
От години deepfakes – изключително убедителни фалшиви видеоклипове, направени с помощта на AI – се използват за поставяне на лица на жени в често агресивни порнографски видеоклипове, без тяхното съгласие. Видеоклиповете често изглеждат толкова реални, че за жените жертви може да е трудно да отрекат, че всъщност не са те.
Въпросът беше насочен към по-широка общественост през февруари тази година, когато стана ясно, че високопоставен мъж стриймър на видеоигри е получил достъп до дълбоко фалшиви видеоклипове на някои от колежките си жени стрийминг.
Тийнейджърка, която държи телефон Добрата бригада/Digital Vision/Getty Images „От самото начало човекът, който създаде deepfakes, го използваше, за да прави порнография на жени без тяхното съгласие“, каза тогава пред CNN Саманта Коул, репортер от Vice’s Motherboard, която проследява deepfakes от самото им създаване.
Платформата за стрийминг, Twitch, отговори на спора, като затегна политиките си, наричайки дълбоките фалшиви сексуални видеоклипове „лично насилствени и повече от разстройващи“. Други големи платформи актуализират по подобен начин своите правила, като TikTok добавя допълнителни ограничения за споделяне на AI deepfakes през март.
Европейският съюз стана един от първите в света, който определи правилата за това как компаниите могат да използват AI през юни, последван от Китай през юли. И по-рано през септември някои от най-големите технологични лидери в Съединените щати – включително Бил Гейтс, Илон Мъск и Марк Зукърбърг – се събраха във Вашингтон, докато Сенатът се подготвя да изготви законопроект за ИИ.
