AI моделите трябва да се тестват за токсичност, преди да

AI моделите би трябвало да се тестват за токсичност, преди да станат обществено достъпни 
(снимка: CC0 Public Domain)

Microsoft отстрани от интернет един от новите си модели за изкуствен интелект. Причината е, че разработчиците от компанията са не запомнили да тестват въпросния AI „ за токсичност ”.

Софтуерният колос пусна на 15 април WizardLM-2, нова версия на изкуствения разсъдък WizardLM, и в същия ден го отстрани от мрежата, заради липса на проби за токсичност, заяви PCMag. Разработчиците, по лично самопризнание, просто са „ не запомнили ” да извършат нужното тестване на модела.

„ Съжаляваме за това ”, написаха разработчиците в обществената мрежа X рано сутринта на 16 април. „ Случайно пропуснахме детайл, нужен в процеса на стартиране на модела – тестване за токсичност ”.

В отговор на въпрос на един от потребителите на X разработчиците признават, че просто са не запомнили за „ нужните проби ”. „ В момента бързо приключваме този тест и по-късно ще пуснем още веднъж нашия модел допустимо най-скоро ”, се споделя в известието.

WizardLM-2 се състои от три разнообразни версии, наречени 8x22B, 70B и 7B. Създателите на WizardLM-2 съпоставят 8x22B с версията OpenAI GPT-4 и стигат до заключението, че техният модел е единствено “малко по-назад ” в един тест за продуктивност.

„ Оценяваме прозрачността на WizardLM във връзка с това за какво моделът е отстранен и чакаме с неспокойствие да го качим още веднъж в интерес на общността ”, съобщи представител на Hugging Face, платформа за данни с изкуствен интелект, която съдържа решения с отворен код.
още по темата
Файловете WizardLM-2 са отстранени от GitHub и Hugging Face. И двете складове към този момент съдържат връзки към модела, които дават неточности 404.

Но може би към този момент е прекомерно късно. Алон Бохман, който преди този момент е работил като старши програмен управител в екипа за машинно образование на Azure (облачната платформа на Microsoft), счита, че „ десетки разработчици на отворен код ” са съумели да изтеглят модела WizardLM-2. Не е ясно дали истинската или модифицираната версия съставлява риск за потребителите.

През април 2024 година Съветът за обзор на киберсигурността на Съединени американски щати разгласява унищожителен отчет за неправилните стъпки и неточности на Microsoft, които направиха допустимо през 2023 година хакването на имейлите на американски чиновници и кражбата на десетки хиляди техни имейли.

Известно е, че офанзивата е засегнала имейлите на министъра на търговията Джина Раймондо и други чиновници на Министерството на търговията, както и американския представител Дон Бейкън и американския дипломат в Китай Никълъс Бърнс. Общо 60 хиляди имейла бяха откраднати от 10 акаунта на Държавния департамент на Съединени американски щати.

„ Културата на сигурността на Microsoft е несъответстваща и изисква главен ремонт ”, се споделя в документа от 34 страници, като се изброяват голям брой неточности, които могат да се избегнат и които са разрешили на атакуващите да съумеят.

Седмица след публикуването на отчета TechCrunch заяви за нов проблем със сигурността на Microsoft. Сървър за предпазване на Azure, който хоства код, скриптове и конфигурационни файлове, съдържащи пароли, ключове и идентификационни данни, употребявани от чиновници на Microsoft за достъп до други вътрешни бази данни и системи, не е бил предпазен с ключова дума и е останал наличен за всеки в интернет.