Amazon представи своя предпазител срещу AI халюцинациите
Облачното поделение Amazon Web Services (AWS) показа на мероприятието re:Invent 2024 системата Automated Reasoning. Тази система е предопределена за битка с „ халюцинациите “ — проблеми при моделите с изкуствения разсъдък, където дават не отговарящи на действителността отговори.
Автоматизираните инспекции за размишление са ориентирани към понижаване на броя на евентуално рисковите неточности, породени от „ халюцинации “ — такива нередности заплашват сигурността на AI-услугите и могат да доведат до финансови загуби за фирмите. Причините за възникването на халюцинациите при генеративния изкуствен интелект са заради неточности в наборите от данни, върху които са подготвени AI-моделите. AWS разказва автоматизираното размишление като „ първата и единствена отбрана на генеративния AI, която оказва помощ за попречване на в действителност неточности, дължащи се на халюцинации на модела “. Системата се пробва да реши казуса посредством кръстосана инспекция на генерираните от модела отговори с информацията, предоставена от клиента. Ако не може да дефинира дали отговорът е тъкмо съвпадане, той се изпраща назад към същия модел, за спомагателна независима инспекция.
Automated Reasoning е част от пакета принадлежности Amazon Bedrock Guardrails — нова система за инспекция, която се пробва да наблюдава по какъв начин моделът е стигнал до дадения отговор и в случай че се открие неточност във веригата, тя се ревизира по отношение на предоставения набор от данни от страна на клиента. Системата предлага личен отговор на поръчката, като разрешава на клиента да види вероятния действителен пропуск и при нужда да направи спомагателни корекции на модела. Като образец AWS цитира снабдител на здравни услуги, който употребява инструмента, с цел да подсигурява, че на потребителските запитвания по отношение на фирмените политики се дава отговор по метод, който не е подвеждащ.
