Microsoft смята изкуствения интелект за опасен инструмент
Експертите на Microsoft предизвестяват за съществени опасности, свързани с потреблението на изкуствен интелект (AI). Това се показва в ново изследване на корпорацията, оповестено на сървъра за препечати arXiv.
В изследването Microsoft проучва повече от 100 генеративни AI-инструмента и открива непосредствените закани за сигурността, свързани с тяхното потребление. Компанията споделя, че AI „ в никакъв случай няма да бъде изцяло защитен„, наблягайки нуждата от непоколебим надзор върху процеса на проучване на езиковите модели (LLM) и самодейната работа за попречване на неточности.
Microsoft, който е разработчик и интегратор на доста AI артикули, в това число Bing Chat, GitHub Copilot, Power BI и Azure AI, схваща високото равнище на отговорност, обвързвано с създаването на тази технология. Ето за какво компанията интензивно влага запаси в проучвания на сигурността на AI.
Големите езикови модели (LLM), съгласно откривателите, освен усилват съществуващите опасности, само че и основават нови. Обучението на LLM с неправилни или чувствителни данни води до модели, които популяризират тази информация измежду потребителите. В допълнение, евентуалната щета от ИИ се прави оценка като сложна за прогнозиране.
За повишение на сигурността специалистите на Microsoft предлагат непоколебим надзор на всеки стадий от LLM образованието. Те подчертават върху решаващата роля на човешкия фактор, както и нуждата от привличане на експерти със задълбочени знания в предметната област, висока културна подготвеност и развита прочувствена просветеност за работа с изкуствения разсъдък.
