Как Белият дом принуди Anthropic да изключи най-мощните си AI модели
Компанията на Дарио Амодей Anthropic (създателите на чатбота Claude) беше принудена да смъкна най-новите си модели с изкуствен интелект Mythos 5 и Fable 5 по разпореждане на федералните управляващи в Съединени американски щати.
Това стана, откакто изпълнителният шеф на Amazon (едни от най-големите вложители в Anthropic) Анди Джаси е предизвестил министъра на финансите на Съединени американски щати Скот Бесент за подозрения в сигурността на моделите.
Джаси е изразил опасения, че защитните ограничавания на Mythos и Fable могат да бъдат прескочени - т.е. те да бъдат накарани да дават информация, която да се употребява за злонамерени офанзиви макар експлицитните вътрешни правила за сигурността им.
В петък компанията е получила заповед от държавното управление да смъкна моделите в границите на час и половина заради опасност за националната сигурност - без повече пояснения.
Няколко часа по-късно, когато Anthropic не се преценяват с нареждането, от Белия дом изпращат писмо, с което ги уведомява, че са наложени цялостни експортни ограничавания.
Всичко това се разпростира няколко дни след анонса на Anthropic, че стартира процедура по първично обществено предложение на акциите си след сполучливия дебют на SpaceX.
Досега компанията се нареждаше като разработчикът, който поставя най-големи старания за сигурността на моделите си с изкуствен интелект. Последният рунд на набиране на частен инвеститорски капитал я оценяваше на 965 милиарда $.
Оттук нататък обаче екипът на Дарио Амодей ще би трябвало да изясни на вложителите си за какво Белият дом може да блокира продуктите, в които са вложени милиарди за образование, и по какъв начин прави оценка политическия и регулаторен риск.
Ролята на Amazon също е доста забавна: те към този момент са вложили 8 милиарда $, неотдавна оповестиха за ангажимент за още 5 милиарда $ с капацитет да ги усилят до 20 милиарда $. Компанията, учредена от Джеф Безос, обаче е решила, че е по-добре да предизвести федералните служби за уязвимостта, вместо по-късно да изяснява за какво не е реагирала при данните за възможен риск.
Най-новото потомство на Mythos преднамерено не беше пускано за обществено прилагане от Anthropic в продължение на седмици, тъй като основателите му го смятаха за прекомерно мощен.
Първоначалната му версия е можела да открива и експлоатира незнайни до момента уязвимости в действителен програмен продукт, в това число да създаде код за злоумишлена офанзива.
В началото на юни Anthropic взеха решение да пуснат " обезопасена " версия на модела - Fable 5, тъй че евентуалните злонамерени търсения от консуматори по тематиките за киберсигурност, химия или биология да бъдат пренасочвани към по-слабия Opus 4.8.
Неограничената версия на Mythos 5 беше отворена за прилагане от определени компании и организации, които към този момент са имали достъп до този клас технология.
Според WSJ инспекция от екипа по киберсигурност на Amazon e посочила, че посредством серия от промптове е допустимо Fable 5 да даде информация, която може да се употребява за закононарушения.
Администрацията на Доналд Тръмп не разрешава достъпа до моделите за задгранични държавни управления, компании и лица.
На процедура това принуждава Anthropic да прекъсне достъпа за всички. Ограниченията на държавното управление са толкоз необятни, че даже чиновниците на Anthropic, родени в чужбина, попадат под тях.
Правителството твърди, че AI-лабораторията е знаела за уязвимостта на Fable, и все пак е пуснала модела за всеобщо прилагане.
Anthropic обаче се пазят, като настояват, че самото държавно управление е дало категорично авансово единодушие за публикуването му.
Източници на Axios свързват аргументите за гафа с информационни проблеми на Anthropic: " Те не си вършат труда да приказват с администрацията и да схванат идеологическите разлики - като че ли приказват на разнообразни езици ".
Властите са издали първото си предизвестие за експортна възбрана още преди две седмици, когато са научили, че организация " с директни връзки с Китайската комунистическа партия " е получила достъп до най-напредналия модел Mythos. Anthropic изясняват, че става дума за световна телекомуникационна компания и че достъпът ѝ е бил лишен, без да се стига до по-сериозни наказания към оня миг.
Докладът на Amazon обаче е предизвикал още по-големи терзания в службите за сигурност - в това число поради отхвърли на Anthropic да признаят, че Fable може да има проблем.
Това е вторият случай на внезапно напрежение сред Anthropic и Белия дом.
През март Пентагонът разгласи компанията за риск за националната сигурност поради позицията на Anthropic, че не разрешава моделите ѝ да се употребяват за две хипотези - стартиране на изцяло самостоятелни оръжия и за всеобщо наблюдаване на американски жители.
Военното министерство реши, че няма да позволи на частна компания да слага условия за оперативната работа на армията и че технологията би трябвало да може да се ползва за " всевъзможни законни цели ".
Спорът към въпроса кой дефинира разпоредбите на AI в този момент се повтаря - и страната го печели.
·
Това стана, откакто изпълнителният шеф на Amazon (едни от най-големите вложители в Anthropic) Анди Джаси е предизвестил министъра на финансите на Съединени американски щати Скот Бесент за подозрения в сигурността на моделите.
Джаси е изразил опасения, че защитните ограничавания на Mythos и Fable могат да бъдат прескочени - т.е. те да бъдат накарани да дават информация, която да се употребява за злонамерени офанзиви макар експлицитните вътрешни правила за сигурността им.
В петък компанията е получила заповед от държавното управление да смъкна моделите в границите на час и половина заради опасност за националната сигурност - без повече пояснения.
Няколко часа по-късно, когато Anthropic не се преценяват с нареждането, от Белия дом изпращат писмо, с което ги уведомява, че са наложени цялостни експортни ограничавания.
Всичко това се разпростира няколко дни след анонса на Anthropic, че стартира процедура по първично обществено предложение на акциите си след сполучливия дебют на SpaceX.
Досега компанията се нареждаше като разработчикът, който поставя най-големи старания за сигурността на моделите си с изкуствен интелект. Последният рунд на набиране на частен инвеститорски капитал я оценяваше на 965 милиарда $.
Оттук нататък обаче екипът на Дарио Амодей ще би трябвало да изясни на вложителите си за какво Белият дом може да блокира продуктите, в които са вложени милиарди за образование, и по какъв начин прави оценка политическия и регулаторен риск.
Ролята на Amazon също е доста забавна: те към този момент са вложили 8 милиарда $, неотдавна оповестиха за ангажимент за още 5 милиарда $ с капацитет да ги усилят до 20 милиарда $. Компанията, учредена от Джеф Безос, обаче е решила, че е по-добре да предизвести федералните служби за уязвимостта, вместо по-късно да изяснява за какво не е реагирала при данните за възможен риск.
Най-новото потомство на Mythos преднамерено не беше пускано за обществено прилагане от Anthropic в продължение на седмици, тъй като основателите му го смятаха за прекомерно мощен.
Първоначалната му версия е можела да открива и експлоатира незнайни до момента уязвимости в действителен програмен продукт, в това число да създаде код за злоумишлена офанзива.
В началото на юни Anthropic взеха решение да пуснат " обезопасена " версия на модела - Fable 5, тъй че евентуалните злонамерени търсения от консуматори по тематиките за киберсигурност, химия или биология да бъдат пренасочвани към по-слабия Opus 4.8.
Неограничената версия на Mythos 5 беше отворена за прилагане от определени компании и организации, които към този момент са имали достъп до този клас технология.
Според WSJ инспекция от екипа по киберсигурност на Amazon e посочила, че посредством серия от промптове е допустимо Fable 5 да даде информация, която може да се употребява за закононарушения.
Администрацията на Доналд Тръмп не разрешава достъпа до моделите за задгранични държавни управления, компании и лица.
На процедура това принуждава Anthropic да прекъсне достъпа за всички. Ограниченията на държавното управление са толкоз необятни, че даже чиновниците на Anthropic, родени в чужбина, попадат под тях.
Правителството твърди, че AI-лабораторията е знаела за уязвимостта на Fable, и все пак е пуснала модела за всеобщо прилагане.
Anthropic обаче се пазят, като настояват, че самото държавно управление е дало категорично авансово единодушие за публикуването му.
Източници на Axios свързват аргументите за гафа с информационни проблеми на Anthropic: " Те не си вършат труда да приказват с администрацията и да схванат идеологическите разлики - като че ли приказват на разнообразни езици ".
Властите са издали първото си предизвестие за експортна възбрана още преди две седмици, когато са научили, че организация " с директни връзки с Китайската комунистическа партия " е получила достъп до най-напредналия модел Mythos. Anthropic изясняват, че става дума за световна телекомуникационна компания и че достъпът ѝ е бил лишен, без да се стига до по-сериозни наказания към оня миг.
Докладът на Amazon обаче е предизвикал още по-големи терзания в службите за сигурност - в това число поради отхвърли на Anthropic да признаят, че Fable може да има проблем.
Това е вторият случай на внезапно напрежение сред Anthropic и Белия дом.
През март Пентагонът разгласи компанията за риск за националната сигурност поради позицията на Anthropic, че не разрешава моделите ѝ да се употребяват за две хипотези - стартиране на изцяло самостоятелни оръжия и за всеобщо наблюдаване на американски жители.
Военното министерство реши, че няма да позволи на частна компания да слага условия за оперативната работа на армията и че технологията би трябвало да може да се ползва за " всевъзможни законни цели ".
Спорът към въпроса кой дефинира разпоредбите на AI в този момент се повтаря - и страната го печели.
·
Източник: boulevardbulgaria.bg
КОМЕНТАРИ