Microsoft разби хакерска банда, която е заставила AI да нарисува неподходящи фейкове със знаменитости
Microsoft съобщи, че е разкрила хакери в Съединени американски щати и чужбина, които са заобикаляли рестриктивните мерки на генеративните AI-инструменти, в това число и услугите на OpenAI в облака Azure, с цел да основават злонамерено наличие, в това число и интимни изображения на звезди и друго полово намерено наличие. Според компанията в тази активност са взели участие хакери от Съединени американски щати, Иран, Англия, Хонконг и Виетнам.
В известието се споделя, че нападателите са извличали логини на консуматори на услугите за генеративен ИИ от отворени източници и са ги употребявали за свои лични цели. След като получат достъп до AI-услугата, хакерите заобикалят рестриктивните мерки, заложени от разработчиците, и продават достъпа до тези ИИ-услуги дружно с указания по какъв начин да основават злонамерено наличие.
Microsoft има вяра, че всички разпознати хакери са членове на световна киберпрестъпна мрежа, която компанията назовава Storm-2139. Двама от тях се намират във Флорида и Илинойс, само че компанията не разкрива самоличността им, с цел да избегне компрометиране на престъпното следствие. Софтуерният колос съобщи, че приготвя съответните претенции до правоприлагащите органи в Съединени американски щати и редица други страни.
Ходовете на Microsoft идват на фона на възходящата известност на генеративните невронни мрежи и опасенията, че изкуственият разсъдък може да се употребява за основаване на подправени изображения на обществени персони и елементарни жители. Компании като Microsoft и OpenAI не разрешават генерирането на такова наличие и надлежно лимитират своите AI-услуги. Въпреки това, хакерите към момента се пробват да заобиколят тези ограничавания и постоянно съумяват.
„ Ние одобряваме злоупотребата с изкуствения разсъдък доста отговорно и осъзнаваме сериозните и дълготрайни последствия от злоупотребата с изображения за евентуалните жертви. „ Microsoft остава ангажирана със отбраната на потребителите посредством внедряване на постоянни марки за сигурност на AI в нашите платформи и отбрана на нашите услуги от нелегално и злонамерено наличие “ — споделя Стивън Масада, асистент основен юрист на подразделението за киберпрестъпления на Microsoft.
Microsoft заведе правосъдно дело през декември в Източния окръг на Вирджиния против 10 неидентифицирани лица в опит да събере повече информация за хакерската група и да спре активността й. Решението на съда разреши на Microsoft да поеме контрола върху един от главните уеб сайтове на хакерите. Това и публикуването на поредност от правосъдни документи предишния месец посяха суматоха измежду нарушителите, евентуално разкривайки самоличността на някои от членовете на групата.
