Ефектът Mythos: САЩ затягат надзора върху AI моделите с нов прези...
Макар по-рано администрацията да се дистанцира от концепцията за наложителен прелиминарен федерален надзор, новата версия на указа залага на по-структурирана доброволна рамка за оценка на „ напреднали “ AI модели за да се лимитират рисковете от съществени вреди, без да се стопира нововъведението.
Документът е част от по-широкия опит на администрацията да затегне надзора върху създаването на напреднали AI системи на фона на възходящи опасения за киберзаплахи и геополитически опасности. Обсъжданията се ускоряват и след напрежение сред компанията Anthropic и Пентагона по отношение на рестриктивните мерки за военна приложимост на нейните технологии.
Проектът за декрет планува две съществени посоки – киберсигурност и регулация на така наречен „ гранични модели “. В първата част се дава 30-дневен период на Пентагона да укрепи своите мрежи, в това число телекомуникационни и осведомителни системи.
Администрацията също по този начин възнамерява в границите на 30 дни да разшири потреблението на AI в държавните системи и сериозната инфраструктура – в това число банки в дребни обитаеми места, лечебни заведения в селски региони и енергийни оператори.
Министерството на финансите ще управлява доброволна самодейност с присъединяване на промишлеността за основаване на общ механизъм за продан на информация и разкриване на уязвимости, който би трябвало да проработи в границите на 30 дни. В този развой ще вземат участие и структури като Националната организация за киберсигурност (CISA), Агенцията за национална сигурност (NSA) и Службата на националния кибердиректор.
Службата за ръководство на личния състав ще бъде натоварена с разширение на програмата U.S. Tech Force, чиято цел е привличане на висококвалифицирани AI експерти към федералните институции.
Втората част на указа планува в период от 60 дни редица организации, в това число Министерството на финансите, CISA и Националния институт за стандарти и технологии, да разработят класифицирана система за оценка на това кои модели се смятат за „ гранични “. В процеса ще вземат участие и висши представители на Белия дом, в това число началникът на кабинета, националният кибердиректор и ръководителят на Службата за просвета и софтуерна политика.
Националната организация за сигурност ще има последната дума при окончателното установяване на класификацията на моделите.
В рамките на доброволната рамка разработчиците ще бъдат насърчавани да сътрудничат с държавното управление преди стартирането на нови модели, да дават достъп за предварителна оценка и да споделят информация с оператори на сериозна инфраструктура.
Mythos, който разтревожи американските служби
Причината за незабавния фокус на американската администрация към тематиката се назовава Mythos – новият напреднал модел на Anthropic.
Една от главните паники към него е обвързвана с опцията той да взема самостоятелни решения в киберпространството. За разлика от по-ранните генерации изкуствен интелект, които разчитат на детайлни човешки указания, новите системи към този момент демонстрират детайли на независимо стратегическо обмисляне. Това поражда опасения, че те могат да откриват и употребяват уязвимости в сериозна инфраструктура – в това число електропреносни мрежи и банкови системи.
Според специалисти сходни качества биха могли да трансфорат технологията в инструмент за огромни и координирани хакерски атаки, в това число такива, проведени или подкрепяни от държавни структури.
Друг сериозен риск е въздействието върху публичните настройки посредством генериране на deepfake наличие и широкомащабни дезинформационни акции. Властите се притесняват, че сходни модели могат да основават извънредно реалистични текстове, изображения и видеа, които мъчно се разграничават от същинските. Това би разрешило всеобщо разпространяване на персонализирани послания, ориентирани към съответни групи гласоподаватели, и би затруднило обичайните механизми за инспекция на обстоятелствата.
Третият основен проблем е обвързван с евентуалната приложимост на тези модели при създаването на биологични и химически сътрудници. Експертни оценки сочат риск системите да дават сензитивна научна информация и подробни указания, които могат да бъдат употребявани за основаване на рискови патогени или субстанции. Така достъп до познания, които нормално изискват дългогодишна специализация, може да бъде възложен на хора без нужната подготовка.
Документът е част от по-широкия опит на администрацията да затегне надзора върху създаването на напреднали AI системи на фона на възходящи опасения за киберзаплахи и геополитически опасности. Обсъжданията се ускоряват и след напрежение сред компанията Anthropic и Пентагона по отношение на рестриктивните мерки за военна приложимост на нейните технологии.
Проектът за декрет планува две съществени посоки – киберсигурност и регулация на така наречен „ гранични модели “. В първата част се дава 30-дневен период на Пентагона да укрепи своите мрежи, в това число телекомуникационни и осведомителни системи.
Администрацията също по този начин възнамерява в границите на 30 дни да разшири потреблението на AI в държавните системи и сериозната инфраструктура – в това число банки в дребни обитаеми места, лечебни заведения в селски региони и енергийни оператори.
Министерството на финансите ще управлява доброволна самодейност с присъединяване на промишлеността за основаване на общ механизъм за продан на информация и разкриване на уязвимости, който би трябвало да проработи в границите на 30 дни. В този развой ще вземат участие и структури като Националната организация за киберсигурност (CISA), Агенцията за национална сигурност (NSA) и Службата на националния кибердиректор.
Службата за ръководство на личния състав ще бъде натоварена с разширение на програмата U.S. Tech Force, чиято цел е привличане на висококвалифицирани AI експерти към федералните институции.
Втората част на указа планува в период от 60 дни редица организации, в това число Министерството на финансите, CISA и Националния институт за стандарти и технологии, да разработят класифицирана система за оценка на това кои модели се смятат за „ гранични “. В процеса ще вземат участие и висши представители на Белия дом, в това число началникът на кабинета, националният кибердиректор и ръководителят на Службата за просвета и софтуерна политика.
Националната организация за сигурност ще има последната дума при окончателното установяване на класификацията на моделите.
В рамките на доброволната рамка разработчиците ще бъдат насърчавани да сътрудничат с държавното управление преди стартирането на нови модели, да дават достъп за предварителна оценка и да споделят информация с оператори на сериозна инфраструктура.
Mythos, който разтревожи американските служби
Причината за незабавния фокус на американската администрация към тематиката се назовава Mythos – новият напреднал модел на Anthropic.
Една от главните паники към него е обвързвана с опцията той да взема самостоятелни решения в киберпространството. За разлика от по-ранните генерации изкуствен интелект, които разчитат на детайлни човешки указания, новите системи към този момент демонстрират детайли на независимо стратегическо обмисляне. Това поражда опасения, че те могат да откриват и употребяват уязвимости в сериозна инфраструктура – в това число електропреносни мрежи и банкови системи.
Според специалисти сходни качества биха могли да трансфорат технологията в инструмент за огромни и координирани хакерски атаки, в това число такива, проведени или подкрепяни от държавни структури.
Друг сериозен риск е въздействието върху публичните настройки посредством генериране на deepfake наличие и широкомащабни дезинформационни акции. Властите се притесняват, че сходни модели могат да основават извънредно реалистични текстове, изображения и видеа, които мъчно се разграничават от същинските. Това би разрешило всеобщо разпространяване на персонализирани послания, ориентирани към съответни групи гласоподаватели, и би затруднило обичайните механизми за инспекция на обстоятелствата.
Третият основен проблем е обвързван с евентуалната приложимост на тези модели при създаването на биологични и химически сътрудници. Експертни оценки сочат риск системите да дават сензитивна научна информация и подробни указания, които могат да бъдат употребявани за основаване на рискови патогени или субстанции. Така достъп до познания, които нормално изискват дългогодишна специализация, може да бъде възложен на хора без нужната подготовка.
Източник: frognews.bg
КОМЕНТАРИ