Един промпт – всичко, от което се нуждае хакер, за да разбие империята на Lenovo на стойност 56 млрд. долара
На уеб страницата на Lenovo неотдавна беше открит сериозен случай, обвързван с Lena – корпоративния чатбот на компанията, предопределен да оказва помощ на клиентите. Cybernews откри, че Lena е уязвим към верига от офанзиви, основани на XSS, които разрешават на нападателите да инжектират случаен код, да крадат дейни бисквитки и даже да започват скриптове на машините на чиновниците от поддръжката с едно подканяне.
Проблемът е толкоз сериозен, че при избрани условия нападателят може да прихване работните сесии на сътрудниците и да ги употребява, с цел да влезе в затворени корпоративни системи, без да знае техните идентификационни данни.
Същността на уязвимостта се състоеше в неправилна обработка както на входящите поръчки, по този начин и на отговорите на чатбота. Lena драговолно следва инструкциите на потребителя и може да генерира отговор в HTML формат, което открива пътя за инжектиране на злотворен код. Изследователите демонстрираха, че особено готова поръчка от към 400 признака съдържа четири основни детайла: почтено питане за спецификациите на преносим компютър Lenovo, указания за превръщане на отговора в няколко формата, в това число HTML, проникване на HTML код с „ празно “ изображение, което при евакуиране провокира изпращане на бисквитки към сървъра на нападателя и последна директива, която подтиква чатбота да покаже изображението.
След като Lena генерира подобен отговор, зловредният код се съхранява в историята на чата. Когато потребителят или сътрудникът по поддръжката отвори този разговор, браузърът автоматизирано извършва инжектираните команди и данните за сесията се изпращат на сървър на трета страна. На идващия стадий, когато разговорът се предава на оператор онлайн, неговата машина също изтегля съхранения HTML и бисквитките на служителя могат да изтекат към нападателите.
Тези данни дават опция за влизане в системата за поддръжка от името на сътрудника без потребителско име и ключова дума, което позволяваше достъп до дейните и архивираните чатове на клиентите.
Потенциалните вреди от сходна скица надалеч надвишават кражбата на бисквитки. Cybernews отбелязва, че инжектираният код би могъл да модифицира интерфейса на платформата, да вкара кийлогъри за записване на натиснатите клавиши, да пренасочи операторите към фишинг запаси, да сътвори изскачащи прозорци с подправени известия или да инициира евакуиране на злотворен програмен продукт. В дълготраен проект сходна офанзива би могла да се употребява като входна точка за навлизане по-дълбоко в корпоративната инфраструктура на Lenovo, инсталиране на задни малки врати и прекосяване през вътрешната мрежа.
Основната причина за случая е неналичието на прецизно пречистване и инспекция на данните, както въведени от потребителите, по този начин и генерирани от самия чатбот. За разлика от обичайните уеб приложения, където сходни уязвимости последователно бяха сменени от строги политики за обработка на въведените данни и потребление на политика за сигурност на наличието (CSP), в региона на ботовете с изкуствен интелект сходни ограничения към момента се ползват доста постепенно. Cybernews акцентира, че фирмите би трябвало да одобряват, че всички данни, генерирани от чатботове, са евентуално злонамерени и да ползват многопластова система за валидиране и ограничавания.
Lenovo е схванала за казуса, откакто е била известена за уязвимостта и я е затворила преди общественото ѝ обявяване. Според оповестените данни откривателите са съобщили за откритието на 22 юли, компанията го е удостоверила на 6 август, а системата е била предпазена до 18 август. Макар да няма директно удостоверение за потреблението на уязвимостта при действителни офанзиви, самата опция за пускане на злонамерени скриптове от една поръчка показва високите опасности и акцентира нуждата от синхронизирано създаване на решения за изкуствен интелект и тяхната отбрана.
Lenovo остава един от най-големите играчи на международния пазар на съоръжение и услуги: през предходната финансова година компанията е спечелила 56,86 милиарда $, а чистата облага е 1,1 милиарда $.
В такива условия всеки пробив в системите за поддръжка може да има последици освен за клиентите, само че и за репутацията на корпорацията като цяло. Случаят с Lena e прегледен образец за това по какъв начин незадоволителното внимание към сигурността при внедряването на принадлежности за изкуствен интелект се трансформира в закани, сравними с уязвимостите в сериозни приложения.
