Мощният нов AI модел на Anthropic е „обаждане за събуждане“, казват експерти по сигурността
Най-новата AI технология на Anthropic, наречена Mythos, е толкоз мощна в разкриването на софтуерни уязвимости, че компанията се опасява да пусне модела обществено, с цел да не попадне в ръцете на неприятни артисти.
Компанията, разработчикът зад чатбота Claude AI, сподели в обява на своя уеб страница тази седмица, че новият инструмент е към този момент разкри хиляди слаби места във „ всяка съществена операционна система и уеб браузър “. Това провокира угриженост, че хакерите могат да употребяват Mythos, с цел да нападат банки, лечебни заведения, държавни системи и друга сериозна инфраструктура.
Подготовка за „ бурята “
Вместо да пусне Mythos на обществеността, Anthropic споделя технологията с определена група от огромни компании, в това число Amazon, Apple, Cisco, JPMorgan Chase и Nvidia, с цел да тестват модела и да втвърдят личните си системи против хакерски атаки. Наречен Project Glasswing, усилието има за цел да сътвори мощна отбрана, преди хакерите да получат достъп до Mythos или сходни AI модели.
Прочетете целия текст »
