AI на Meta отрича атаката срещу Тръмп
AI асистентът на Meta е уверен, че неотдавна направеният опит за нападение против някогашния президент Доналд Тръмп не се е случил, заяви The Verge.
В обява в блога на компанията Джоел Каплан, световен началник на политиките на Meta, призна, че в началото са програмирали своя AI да не дава отговор на въпроси за офанзивата - само че хората са почнали да го виждат.
В момента, в който са махнали възбраната, в " дребен брой случаи " Meta AI е " халюцинирал " погрешен отговор - че стрелбата изобщо не се е случила. " Халюцинации " се назовават моментите, в които езиковите модели поради липса на информация непосредствено си измислят отговори.
" Работим бързо, с цел да го изправим. Тези видове отговори се назовават халюцинации, което е проблем, публикуван в цялата промишленост на генеративните AI системи, и съставлява продължаващо предизвикателство за това по какъв начин AI ще се оправя с действителните събития в бъдеще “, изяснява Каплан.
" Както при всички генеративни AI системи, моделите могат да връщат неточни или несъответствуващи резултати, и ние ще продължим да се занимаваме с тези въпроси и да подобряваме тези функционалности, до момента в който се развиват и повече хора споделят своята противоположна връзка. "
Вчера и Гугъл се оказа под прицел поради сходно ограничаване - функционалността му за автоматизирано довеждане докрай на търсенията е цензурирала резултатите, свързани с опита за нападение.
Естествено, самият Доналд Тръмп реагира в обява в личната си социалка - Truth Social, в типичния си жанр:
" Ето още веднъж, още един опит за МАНИПУЛИРАНЕ НА ИЗБОРИТЕ!!! ", написа той. " СКОЧЕТЕ СРЕЩУ META И GOOGLE. “
Откакто ChatGPT се появи на сцената, софтуерната промишленост се бори с това по какъв начин да ограничи склонността на генеративния AI към погрешни изказвания. Някои компании, като Meta, се пробват да свържат своите чатботове с качествени данни и резултати от търсения в действително време като метод за компенсиране на халюцинациите. Но както демонстрира този съответен образец, към момента е мъчно да се преодолее това, за което огромните езикови модели са изначално създадени: да измислят неща.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
В обява в блога на компанията Джоел Каплан, световен началник на политиките на Meta, призна, че в началото са програмирали своя AI да не дава отговор на въпроси за офанзивата - само че хората са почнали да го виждат.
В момента, в който са махнали възбраната, в " дребен брой случаи " Meta AI е " халюцинирал " погрешен отговор - че стрелбата изобщо не се е случила. " Халюцинации " се назовават моментите, в които езиковите модели поради липса на информация непосредствено си измислят отговори.
" Работим бързо, с цел да го изправим. Тези видове отговори се назовават халюцинации, което е проблем, публикуван в цялата промишленост на генеративните AI системи, и съставлява продължаващо предизвикателство за това по какъв начин AI ще се оправя с действителните събития в бъдеще “, изяснява Каплан.
" Както при всички генеративни AI системи, моделите могат да връщат неточни или несъответствуващи резултати, и ние ще продължим да се занимаваме с тези въпроси и да подобряваме тези функционалности, до момента в който се развиват и повече хора споделят своята противоположна връзка. "
Вчера и Гугъл се оказа под прицел поради сходно ограничаване - функционалността му за автоматизирано довеждане докрай на търсенията е цензурирала резултатите, свързани с опита за нападение.
Естествено, самият Доналд Тръмп реагира в обява в личната си социалка - Truth Social, в типичния си жанр:
" Ето още веднъж, още един опит за МАНИПУЛИРАНЕ НА ИЗБОРИТЕ!!! ", написа той. " СКОЧЕТЕ СРЕЩУ META И GOOGLE. “
Откакто ChatGPT се появи на сцената, софтуерната промишленост се бори с това по какъв начин да ограничи склонността на генеративния AI към погрешни изказвания. Някои компании, като Meta, се пробват да свържат своите чатботове с качествени данни и резултати от търсения в действително време като метод за компенсиране на халюцинациите. Но както демонстрира този съответен образец, към момента е мъчно да се преодолее това, за което огромните езикови модели са изначално създадени: да измислят неща.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
Източник: clubz.bg
КОМЕНТАРИ