Изкуственият интелект е склонен да халюцинира, но скоро ще има

Изкуственият разсъдък е податлив да халюцинира, само че скоро ще има лекарство за това
(снимка: CC0 Public Domain)

Младата компания RagaAI притегли финансиране в размер на $4,7 милиона за създаване на софтуерни принадлежности, които опростяват откриването на недостатъци в невронните мрежи. Става въпрос за такива проблеми на актуалните AI системи като така наречен „ халюцинации ” и невъзможността на изкуствения разсъдък да даде сериозна информация в избран миг от време.

Очаква се разработваните софтуерни решения да подобрят надеждността и сигурността на системите с изкуствен интелект. Стартъпът RagaAI е учреден от някогашен кадър на Nvidia и Texas Instruments – 44- годишният Гаурав Агарвал, който замисля основаване на такива принадлежности след противен случай с тестване на система за самостоятелно шофиране по пътищата на Калифорния.

Автоматиката на колата не съумява да разпознае навреме затруднение, зародило по маршрута, вследствие на което Агарвал е заставен да приложи спешно прекъсване и по този метод да избегне конфликта. В изявление за Блумбърг той споделя за проблемите с невронни мрежи, до момента в който е работил в Nvidia и Ola.
още по темата
Отстраняването на неточности в работата на системите с изкуствен интелект е значимо в редица сюжети, които включват висока степен на отговорност – да вземем за пример при диагностициране на рак, поддръжка на самолети и потребление на AI за асортимент на личен състав, счита Агарвал.

Стартъпът RagaAI е учреден в Калифорния още преди AI ботът ChatGPT на OpenAI да навлезе на пазара. Неговата платформа разрешава на корпоративни клиенти да проведат повече от 300 теста, които разпознават тесните места в работата на системите с изкуствен интелект, включително проблеми с различаване на обекти и появяването на „ отпадък ”, както и погрешни данни, показани като истина.

Освен това софтуерът на RagaAI разрешава да се блокират офанзиви против езикови модели, които ги предизвикат да вършат неточности. Основният екип от експерти на стартъпа ще бъде ситуиран в Бенгалуру, Индия, а средствата, събрани по време на неотдавнашния кръг на финансиране, ще се употребяват за разширение на компанията.

Според ръководителя на RagaAI, стартъпът към този момент си сътрудничи с няколко огромни клиенти в региона на електронната търговия, аеронавтиката и медицинските изображения. С помощта на платформата те са съумели да понижат с 90% броя на грешките в работата на системите с изкуствен интелект.