ЕС забранява неприемливото използване на AI
22 Април
Някои " неприемливи " приложения на изкуствения разсъдък ще бъдат неразрешени в Европа, стана ясно в сряда. Според препоръчаните от Европейската комисия правила ще бъдат неразрешени " AI системите, считани като очевидна опасност за сигурността, препитанието и правата на хората ". Също по този начин се вкарват и по-стриктни разпореждания за потреблението на биометриката - като използването на лицево различаване от правоприлагащите органи, написа BBC.
Нарушаването на разпоредбите ще бъде последвано от санкции до 6% от световния оборот. За най-големите софтуерни компании това ще се равнява на милиарди.
Основните права
" По отношение на изкуствения разсъдък доверието е наложително, а не целесъобразно ", разяснява европейският комисар по цифровите въпроси Маргарет Вестегер по отношение на " новите световни правила ", създадени от Европейски Съюз.
По думите й разпоредбите ще се наместват там, където е извънредно належащо и когато сигурността и главните прави на европейските жители са наранени.
Предложените разпореждания обаче не са дефинитивни и те би трябвало да преминат през дълъг развой на утвърждения.
Висок риск
Много от главните хрумвания в документа изтекоха още предходната седмица, което породи терзания измежду софтуерната общественост, че сходни правила могат да попречат на нововъведенията.
Според Николас Каиринос, изпълнителен шеф на Soffos.ai, които създават изкуствен интелект за образование на чиновници в бизнеса, дефиниции като " висок риск " са прекомерно свободни и затова не изключително потребни. За него сходен неразбираем метод при регулациите " мъчно може да вдъхне доверие ".
Хърърт Суанайкър, софтуерен специалист в юридическата компания Clifford Chance, счита, че препоръчаните огромни санкции дават на регулациите доста повече тежест и са " извънредно амбициозни " като мащаб.
" Има още доста какво да се направи, с цел да се подобрят някои от концепциите ", добавя специалистът. " Глобите са едно нещо - само че по какъв начин доставчиците ще се оправят със забележителните разноски и човешкото присъединяване, нужни за спазването на условията. Предложенията ще принудят доставчиците изцяло да премислят по какъв начин AI се доставя и основава ".
Вестегер от своя страна акцентира, че разпоредбите имат за цел да насочват защо се употребява AI, в сравнение с да контролират самата технология. Но " AI системите или приложенията, които манипулират човешкото държание, с цел да заобиколят свободната воля на потребителите ", в това число " подсъзнателни способи ", ще попаднат в неразрешената категория на " недопустим риск ".
Тези, които работят във високорискови области като националната инфраструктура, образованието, финансите и правоприлагането - ще са изправени през серия затруднение, преди да могат да употребяват технологията.
Например софтуерът за подбиране на CV-та или системите за кредитно скориране за банкови заеми ще би трябвало: Да потвърдят своята акуратност и правдивост Да пазят записи на цялата си интензивност Да разполагат с " подобаващ човешки надзор ". И всички системи за " отдалечена биометрична идентификация " - каквито са потреблението на лицевото различаване от полицията, само че не и използването на пръстов отпечатък за отключване на телефон или сканиране на лицето при паспортна инспекция - ще бъдат обект на строги регулации.
" Тяхното потребление в обществено налични места за задачите на правоприлагането е неразрешено по принцип ", с редките изключения като " неизбежна терористична опасност ".
Но множеството решения с изкуствен интелект се чака да попаднат в нискорисковата категория и да са обект на надалеч не по този начин строги правила.
Базирани на правила системи
Например чатботовете при потребителско обслужване би трябвало единствено ясно да посочат, че хората поддържат връзка с машина.
Обикновените и елементарни системи като филтрирането на имейл спама също няма да попадат под рестриктивните мерки.
Европейският парламент и страните членки въпреки всичко би трябвало да обсъдят предложенията и част от наредбите евентуално ще бъдат изменени през този развой.
Но в случай че бъдат признати, регулациите ще би трябвало да се ползват отвън и в границите на Европейски Съюз, когато една AI система е налична в блока или нейната приложимост визира жителите на Европейски Съюз.
Някои " неприемливи " приложения на изкуствения разсъдък ще бъдат неразрешени в Европа, стана ясно в сряда. Според препоръчаните от Европейската комисия правила ще бъдат неразрешени " AI системите, считани като очевидна опасност за сигурността, препитанието и правата на хората ". Също по този начин се вкарват и по-стриктни разпореждания за потреблението на биометриката - като използването на лицево различаване от правоприлагащите органи, написа BBC.
Нарушаването на разпоредбите ще бъде последвано от санкции до 6% от световния оборот. За най-големите софтуерни компании това ще се равнява на милиарди.
Основните права
" По отношение на изкуствения разсъдък доверието е наложително, а не целесъобразно ", разяснява европейският комисар по цифровите въпроси Маргарет Вестегер по отношение на " новите световни правила ", създадени от Европейски Съюз.
По думите й разпоредбите ще се наместват там, където е извънредно належащо и когато сигурността и главните прави на европейските жители са наранени.
Предложените разпореждания обаче не са дефинитивни и те би трябвало да преминат през дълъг развой на утвърждения.
Висок риск
Много от главните хрумвания в документа изтекоха още предходната седмица, което породи терзания измежду софтуерната общественост, че сходни правила могат да попречат на нововъведенията.
Според Николас Каиринос, изпълнителен шеф на Soffos.ai, които създават изкуствен интелект за образование на чиновници в бизнеса, дефиниции като " висок риск " са прекомерно свободни и затова не изключително потребни. За него сходен неразбираем метод при регулациите " мъчно може да вдъхне доверие ".
Хърърт Суанайкър, софтуерен специалист в юридическата компания Clifford Chance, счита, че препоръчаните огромни санкции дават на регулациите доста повече тежест и са " извънредно амбициозни " като мащаб.
" Има още доста какво да се направи, с цел да се подобрят някои от концепциите ", добавя специалистът. " Глобите са едно нещо - само че по какъв начин доставчиците ще се оправят със забележителните разноски и човешкото присъединяване, нужни за спазването на условията. Предложенията ще принудят доставчиците изцяло да премислят по какъв начин AI се доставя и основава ".
Вестегер от своя страна акцентира, че разпоредбите имат за цел да насочват защо се употребява AI, в сравнение с да контролират самата технология. Но " AI системите или приложенията, които манипулират човешкото държание, с цел да заобиколят свободната воля на потребителите ", в това число " подсъзнателни способи ", ще попаднат в неразрешената категория на " недопустим риск ".
Тези, които работят във високорискови области като националната инфраструктура, образованието, финансите и правоприлагането - ще са изправени през серия затруднение, преди да могат да употребяват технологията.
Например софтуерът за подбиране на CV-та или системите за кредитно скориране за банкови заеми ще би трябвало: Да потвърдят своята акуратност и правдивост Да пазят записи на цялата си интензивност Да разполагат с " подобаващ човешки надзор ". И всички системи за " отдалечена биометрична идентификация " - каквито са потреблението на лицевото различаване от полицията, само че не и използването на пръстов отпечатък за отключване на телефон или сканиране на лицето при паспортна инспекция - ще бъдат обект на строги регулации.
" Тяхното потребление в обществено налични места за задачите на правоприлагането е неразрешено по принцип ", с редките изключения като " неизбежна терористична опасност ".
Но множеството решения с изкуствен интелект се чака да попаднат в нискорисковата категория и да са обект на надалеч не по този начин строги правила.
Базирани на правила системи
Например чатботовете при потребителско обслужване би трябвало единствено ясно да посочат, че хората поддържат връзка с машина.
Обикновените и елементарни системи като филтрирането на имейл спама също няма да попадат под рестриктивните мерки.
Европейският парламент и страните членки въпреки всичко би трябвало да обсъдят предложенията и част от наредбите евентуално ще бъдат изменени през този развой.
Но в случай че бъдат признати, регулациите ще би трябвало да се ползват отвън и в границите на Европейски Съюз, когато една AI система е налична в блока или нейната приложимост визира жителите на Европейски Съюз.
Източник: computerworld.bg
КОМЕНТАРИ