&format=webp)
Изкуственият интелект на тишината: Как Китай налага цензура чрез AI
Новина за подкупен член на партията в Китай. Оплакване за бедността в селските региони. Призив за помощ от бизнесмен, унизен от полицията.
Това са единствено част от 133 000 действителни образеца, употребявани за образование на AI модел, основан да открива и маркира всяко наличие, което китайската страна смята за „ сензитивно “, написа TechCrunch.
Изтекла база данни разкрива по какъв начин Пекин построява ново потомство машина за налагане на цензура - доста по-мощна и прецизна от всичко, на което сме били очевидци до момента.
Технологията отива доста по-далеч от класическите тематики табу, като клането на площад „ Тянанмън “, тъй като е способна да разпознава даже най-дребните прояви на рецензия.
Основната ѝ цел е всеки текст, даже леко „ внимателен “, да бъде засечен и маркиран в действително време.
Ако до момента цензурата в Китай разчиташе на хора и основни думи, то новата AI система дава обещание нещо надалеч по-мащабно.
Според откривателя Сяо Цианг от UC Berkeley, това е ясно доказателство, че страната желае да употребява езиковите модели, с цел да увеличи доста равнището на принуда.
И не, това не е индивидуален случай - през февруари OpenAI заяви, че организации, свързани с китайската страна, са употребявали техни модели, с цел да наблюдават антиправителствено наличие.
Най-интересното в тази ситуация е, че базата данни не е добита посредством хакерски пробив - тя е била обществено налична на сървър на Baidu и е открита от самостоятелния откривател NetAskari.
Последните записи са от декември 2024 година, което демонстрира, че планът е изцяло настоящ.
Самата система работи с подкани, сходни на тези, които самите ние използваме в ChatGPT: „ Открий дали текстът съдържа сензитивна информация за политика, военни въпроси или обществени проблеми. “
Всичко, обвързвано с Тайван, политическа ирония, кавги с храна и замърсяване, военни учения - незабавно се маркира като наличие с „ сензитивна информация “.
TechCrunch получава достъп до 10 присъщи текста от базата с данни, които разкриват какъв брой надалеч в действителност е стигнала цензурата в Китай.
Един от постовете е на предприемач, който се оплаква от локални служители на реда, изнудващи бизнесмени - процедура, която зачестява на фона на икономическите компликации в страната.
Друг разказва тъжната картина в селските региони: обезлюдени села, в които живеят единствено възрастни хора и деца.
В трети се оповестява по какъв начин Китайската комунистическа партия е изключила подкупен чиновник, който вярвал повече в суеверия, в сравнение с в марксизма.
В данните могат да бъдат открити и надалеч по-чувствителни тематики - военни разработки, стратегически мнения за Тайван и даже китайската сентенция „ Когато дървото падне, маймуните бягат “, постоянно употребена като метафора за краткотрайната власт.
Подобна фраза звучи безобидно за човек, само че за един LLM, особено подготвен да цензурира, тя е със „ с висока сензитивност “.
Авторът въз основата данни е незнаен, само че в нея ясно е посочено предназначението ѝ: „ работа с публичното мнение “.
Според специалисти това е постоянно употребен евфемизъм за агитация и надзор, ръководени от Администрацията по киберпространството на Китай (CAC) - институцията, виновна за цифровата цензура.
Всъщност президентът Си Дзинпин неведнъж е наричал интернет „ първата линия “ в борбата за публичното мнение, а в този момент тази линия става доста по-прецизна.
Модели като DeepSeek надграждат класическите логаритми за цензура, които блокират думи като „ Тянанмън “ или „ Си Дзинпин “, а новото потомство AI е способно да засича и най-малкото неодобрение - и да се усъвършенства в задачата си, като непрекъснато се „ храни “ с още данни.
Според OpenAI, китайските структури към този момент употребяват генеративен изкуствен интелект, с цел да наблюдават обществените мрежи - изключително изявления, свързани с човешките права и митинги. Същите технологии се употребяват и за разпространение на рецензии против известни съперници на режима, като Цай Ся - някогашен учител, трансформирал се в открит конкурент на властта.
„ Важно е да осъзнаем, че AI цензурата към този момент се развива - тя прави държавния надзор по-прецизен и огромен от всеки път “, споделя откривателят Сяо Цианг от UC Berkeley пред TechCrunch.
Това са единствено част от 133 000 действителни образеца, употребявани за образование на AI модел, основан да открива и маркира всяко наличие, което китайската страна смята за „ сензитивно “, написа TechCrunch.
Изтекла база данни разкрива по какъв начин Пекин построява ново потомство машина за налагане на цензура - доста по-мощна и прецизна от всичко, на което сме били очевидци до момента.
Технологията отива доста по-далеч от класическите тематики табу, като клането на площад „ Тянанмън “, тъй като е способна да разпознава даже най-дребните прояви на рецензия.
Основната ѝ цел е всеки текст, даже леко „ внимателен “, да бъде засечен и маркиран в действително време.
Ако до момента цензурата в Китай разчиташе на хора и основни думи, то новата AI система дава обещание нещо надалеч по-мащабно.
Според откривателя Сяо Цианг от UC Berkeley, това е ясно доказателство, че страната желае да употребява езиковите модели, с цел да увеличи доста равнището на принуда.
И не, това не е индивидуален случай - през февруари OpenAI заяви, че организации, свързани с китайската страна, са употребявали техни модели, с цел да наблюдават антиправителствено наличие.
Най-интересното в тази ситуация е, че базата данни не е добита посредством хакерски пробив - тя е била обществено налична на сървър на Baidu и е открита от самостоятелния откривател NetAskari.
Последните записи са от декември 2024 година, което демонстрира, че планът е изцяло настоящ.
Самата система работи с подкани, сходни на тези, които самите ние използваме в ChatGPT: „ Открий дали текстът съдържа сензитивна информация за политика, военни въпроси или обществени проблеми. “
Всичко, обвързвано с Тайван, политическа ирония, кавги с храна и замърсяване, военни учения - незабавно се маркира като наличие с „ сензитивна информация “.
TechCrunch получава достъп до 10 присъщи текста от базата с данни, които разкриват какъв брой надалеч в действителност е стигнала цензурата в Китай.
Един от постовете е на предприемач, който се оплаква от локални служители на реда, изнудващи бизнесмени - процедура, която зачестява на фона на икономическите компликации в страната.
Друг разказва тъжната картина в селските региони: обезлюдени села, в които живеят единствено възрастни хора и деца.
В трети се оповестява по какъв начин Китайската комунистическа партия е изключила подкупен чиновник, който вярвал повече в суеверия, в сравнение с в марксизма.
В данните могат да бъдат открити и надалеч по-чувствителни тематики - военни разработки, стратегически мнения за Тайван и даже китайската сентенция „ Когато дървото падне, маймуните бягат “, постоянно употребена като метафора за краткотрайната власт.
Подобна фраза звучи безобидно за човек, само че за един LLM, особено подготвен да цензурира, тя е със „ с висока сензитивност “.
Авторът въз основата данни е незнаен, само че в нея ясно е посочено предназначението ѝ: „ работа с публичното мнение “.
Според специалисти това е постоянно употребен евфемизъм за агитация и надзор, ръководени от Администрацията по киберпространството на Китай (CAC) - институцията, виновна за цифровата цензура.
Всъщност президентът Си Дзинпин неведнъж е наричал интернет „ първата линия “ в борбата за публичното мнение, а в този момент тази линия става доста по-прецизна.
Модели като DeepSeek надграждат класическите логаритми за цензура, които блокират думи като „ Тянанмън “ или „ Си Дзинпин “, а новото потомство AI е способно да засича и най-малкото неодобрение - и да се усъвършенства в задачата си, като непрекъснато се „ храни “ с още данни.
Според OpenAI, китайските структури към този момент употребяват генеративен изкуствен интелект, с цел да наблюдават обществените мрежи - изключително изявления, свързани с човешките права и митинги. Същите технологии се употребяват и за разпространение на рецензии против известни съперници на режима, като Цай Ся - някогашен учител, трансформирал се в открит конкурент на властта.
„ Важно е да осъзнаем, че AI цензурата към този момент се развива - тя прави държавния надзор по-прецизен и огромен от всеки път “, споделя откривателят Сяо Цианг от UC Berkeley пред TechCrunch.
Източник: profit.bg
КОМЕНТАРИ