Американската полиция използва AI за създаването на изображения на несъществуващи

Американската полиция употребява AI за основаването на изображения на несъществуващи деца, с цел да им помогне да залавят педофилите. Това гласи дело, заведено от щата Ню Мексико против Snapchat тази седмица.

Според жалбата, Министерството на правораздаването на Ню Мексико през последните месеци е почнало следствие под прикритие, с цел да потвърди, че Snapchat „ е главната обществена медийна платформа за разпространяване на материали за полово принуждение над деца (CSAM) “ и полово изнудване на малолетни, защото нейният „ логаритъм излага децата на възрастни насилници. “

Като част от следствието служителят на реда „ основал подправен акаунт на 14-годишно момиче, Sexy14Heather “. Въпреки че не добавил никакви почитатели, „ Heather “ скоро била необятно предложена на „ рискови сметки, в това число тези, наречени „ child.rape “ и „ pedo_lover10 “.

И откакто Heather приела поръчката за следване единствено от един акаунт, рекомендациите станали още по-големи. „ Snapchat предлага повече от 91 консуматори, в това число и доста възрастни, чиито сметки включват или се пробват да обменят полово намерено наличие “ — се споделя в жалбата на страната.

Представяйки се като „ Sexy14Heather “, следователят обменял известия с сметките за възрастни, в това число и консуматори, които „ разгласяват несъответствуващи и откровени фотоси “. В един диалог с консуматор на име „ 50+ SNGL DAD 4 YNGR “, фалшив младежът „ споделил възрастта си, изпратил фотография и се оплакал, че родителите ѝ я принуждават да върви на учебно заведение “. Това подтикнало потребителя да изпрати „ фотография на себе си “, както и полови чатове. Други сметки помолили „ момичето “ да „ търгува с хипотетично искрено наличие “, а няколко „ се пробваха да принудят малолетното лице да показа CSAM “. Служителят също по този начин тествал инструмента за търсене на Snapchat, като открил, че „ макар че акаунтът не употребява очевиден полов език, логаритъмът би трябвало да е определил, че търси CSAM “, когато търси други младежи. Алгоритъмът „ стартира да предлага на потребителите, свързани с търговията CSAM “, в това число сметки с имена като „ naughtypics “, „ addfortrading “, „ teentr3de “, „ gayhorny13yox “ и „ teentradevirgin “.

Преди това полицията в Албакърки повдигнала обвинявания против мъж в хипотетично обезчестяване на 11-годишно момиче, с което се срещнал посредством функционалността за бързо прибавяне на Snapchat през 2022 година Освен това различен мъж от Албакърки бил задържан и наказан това лято за „ обезчестяване на 12-годишно момиче, с което се срещнал и комуникирал посредством Snapchat “.

В предишното полицията се е представяла като деца онлайн, с цел да хване изнасилвачите, употребявайки фотоси на млади дами или даже фотоси на млади служители на реда. Използването на изображения, генерирани от AI, може да се смята за по-етичен метод за осъществяване на сходни интервенции, споделя юристът Кари Голдбърг.

Но даже потреблението на AI може да усложни следствията и да породи етични опасения, предизвестява тя, защото специалистите по сигурността на децата и правоприлагащите органи намират в мрежата повече генерирани от AI материали за CSAM.

„ По отношение на потреблението на AI за прихващане, обвинените могат да се защитят, като настояват, че държавното управление ги е убедило да извършат закононарушение, към което в началото не са били предразположени “ — споделя Голдбърг. 

Експертите предизвестяват, че генераторите на изображения с изкуствен интелект в никакъв случай не би трябвало да се образоват на набори от данни, които комбинират изображения на действителни деца с компрометиращо наличие, с цел да се избегне разпространяването на материали за CSAM.

Жалбата на Ню Мексико съдържа единствено едно изображение, генерирано от AI, тъй че не е ясно какъв брой необятно полицията употребява технологията.

Голдбърг споделя, че „ би трябвало да има стандарти в правоприлагането за това по какъв начин отговорно да се употребява AI “. 

Генералният прокурор на Ню Мексико, Раул Торес, отбелязва, че делото против Snapchat на щата е заведено „ за отбрана на децата от полово изнудване, полова употреба и увреждане “.

Твърдейки, че Snapchat съзнателно подценява проблемите, като популяризира своята платформа като безвредна, страната твърди, че Snap е нарушил Закона за нелоялните практики и обществената мрежа би трябвало да бъде неразрешена. 

Голдбърг отбелязва, че щатският случай се откроява, тъй като единствено подобен индивид може да предяви необятни искове от името на обществеността.

Разследване на Министерството на правораздаването на Ню Мексико открило, че Snapchat е „ надалеч “ най-големият източник на противозаконни фотоси и видеоклипове за пазарите на даркнет. Държавните следователи са „ разпознали голяма мрежа от дарк уеб сайтове, отдадени на шерването на откраднати полови изображения от Snap – разкривайки повече от 10 000 изявления, свързани със Snap и CSAM единствено през миналата година, в това число и информация за малолетни под 13-годишна възраст, които са били полово нападнати. ” се споделя в прессъобщението.

Голдбърг споделя, че делото е „ най-новото в дребната поредност от каузи против Snap, които включват неговата функционалност за бързо прибавяне, сравнение и персонални известия с непознати “. Фокусирайки се върху дизайнерските характерности на Snapchat, в това число и функционалността за бързо прибавяне и изчезващи известия, както и Snap Maps и други функционалности, Министерството на правораздаването на Ню Мексико сподели, че „ дизайнът и алгоритмичните рекомендации на Snapchat намерено предизвикват и разпространяват противозаконното полово наличие, включващо деца и улесняващо секс трафика, изнудването и трафика на деца, опиати и оръжия.„

Торес предизвестил изхода от случая със Snapchat, предупреждавайки, че „ всички обществени медийни платформи, които вредят на своите консуматори, би трябвало да бъдат нащрек “.

Ако Snap загуби делото, може да бъде изправен пред солидни санкции. Ню Мексико също се стреми да блокира Snap от всички практики, за които се твърди, че са нездравословни за децата, в това число и преустановяване на рекламите за Snapchat като „ по-лични “ и изчезващи известия. 

Snap отговори, че преглежда жалбата на Ню Мексико „ и ще отговори на тези искания в съда, изключително за нашите по-млади консуматори “.

Компанията споделя, че „ работи интензивно за намиране, унищожаване и докладване на неприятните консуматори и дава на младежите, както и на родителите и настойниците, принадлежности, които да им оказват помощ да останат в сигурност онлайн “. Тя също по този начин ще продължи да „ си сътрудничи с правоприлагащите органи, специалистите по онлайн сигурност, сътрудниците от промишлеността, родителите, младежите, преподавателите и политиците “.

Голдбърг има вяра, че „ тези компании би трябвало да бъдат оценени освен по техните артикули и опасности, само че и по това по какъв начин се оправят с нещастията, които се случват на техните платформи. И Snap е един от най-лошите в хвърлянето на цялата виновност върху дребните деца и техните родители, даже когато вредите съставляват характерни проблеми, неповторими за тяхната технология и функционалности. Те си фантазират, че са авангардни, с бързи връзки и технологии, само че в съда постоянно се пробват да санкционират юристите и скърбящите фамилии, като ги държат виновни. “