Австралия разкри разпоредби, изискващи от интернет търсачките да предприемат мерки срещу материалите със сексуално малтретиране на деца, създадени от изкуствен интелект.
Кодът за онлайн безопасност, обявен в петък, ще изисква от услуги като Google, Bing, DuckDuckGo и Yahoo да предприемат „подходящи стъпки“, за да предотвратят разпространението на материали за експлоатация на деца, включително „синтетични“ изображения, създадени от AI.
Съобщението идва, след като комисарят по eSafety забави внедряването на по-ранна версия на кода през юни, след като Microsoft и Google въведоха AI функционалност за своите услуги за интернет търсачки.
„Използването на генеративен AI се разрасна толкова бързо, че мисля, че хвана целия свят неподготвен до известна степен“, каза комисарят по електронната безопасност Джули Инман Грант в изявление.
Грант каза, че кодът е „страхотен пример“ за това как регулаторите и технологичните фирми могат да работят заедно, за да направят интернет по-безопасен.
„Когато най-големите играчи в индустрията обявиха, че ще интегрират генеративен AI в техните функции за търсене, ние имахме проект на код, който очевидно вече не беше подходящ за целта и не можеше да осигури защитата на общността, която изисквахме и очаквахме“, каза тя.
„Помолихме индустрията да опита отново да изготви кода, за да отговори на тези очаквания, и искам да ги поздравя за предоставянето на код, който ще защити безопасността на всички австралийци, които използват техните продукти.“
По-рано тази година BBC съобщи, че педофили са използвали AI софтуера Stable Diffusion, за да създават и продават реалистични материали за сексуално насилие над деца в сайтове за споделяне на съдържание като Patreon.
Австралийският комисар по електронната безопасност в момента работи върху изготвянето на два нови кодекса, които да регулират услугите за онлайн съхранение като iCloud и OneDrive и съответно услугите за лични съобщения.
Усилията на правителствата да засилят надзора върху услугите за облак и съобщения за борба с експлоатацията на деца предизвикаха отпор от страна на технологичната индустрия и защитниците на поверителността.
WhatsApp и Signal заплашиха да се оттеглят от Обединеното кралство, ако приеме законопроекта за онлайн безопасността, който ще изисква платформите да сканират за материали със сексуално насилие над деца.
Технологичните фирми и гражданските либертарианци казват, че законът ще принуди платформите да премахнат криптирането от край до край, излагайки на риск поверителността на всички потребители.
През юни комисарят по електронната безопасност на Австралия обяви кодекси за регулиране на социалните медии, услугите за интернет превоз, услугите за разпространение на приложения, хостинг услугите и доставчиците на оборудване.
Нарушенията на кодексите подлежат на граждански санкции.
Източник: Ал Джазира и информационни агенции
