Способността на хората да наблюдават как AI взема решения може

Способността на хората да следят по какъв начин AI взема решения може скоро да изчезне и това крие големи опасности (снимка: CC0 Public Domain)

Способността на учените и разработчиците да схващат по какъв начин изкуственият разсъдък взема решения може да изчезне – и това заплашва сигурността на бъдещите AI модели, предизвестиха специалисти.

Група водещи откриватели от DeepMind, OpenAI, Meta, Anthropic и няколко университетски и нестопански организации разгласиха взаимен отчет с обезпокоително обръщение: способността да се следи по какъв начин AI взема решения може скоро да изчезне.

Докладът е подписан от носителя на премията Тюринг – Джефри Хинтън и съоснователя на OpenAI – Иля Суцкевер, наред с други известни фигури от софтуерната промишленост, излиза наяве от обявата в ArXiv.

Фокусът на посланието е върху така наречен “вериги на мисълта ” или “вериги на разсъждението ” (CoT), които се употребяват в актуалните езикови и мултимодални модели. Това са междинни стъпки, през които AI „ беседва ” вътрешно, преди да даде отговор. CoT са изключително значими при решаването на комплицирани проблеми, които изискват логичност, обмисляне или работа с цифри.

Докато AI остава „ транспарантен ” и разрешава на индивида да следва неговия ход на мисълта, хората могат да откриват неточности, пристрастия или евентуално рисково държание.

Авторите на публикацията обаче предизвестяват, че с повишаване на опциите на AI и усложняването на архитектурите, способността за наблюдаване на такива вериги може да отслабне. Моделите може да стартират да „ крият ” вътрешните си стъпки, оптимизирайки държанието за външни индикатори.

Подобно държание към този момент е следено в някои случаи, когато изкуственият разсъдък е „ мамил ” системата за заплащане или е манипулирал, с цел да реализира дадена цел. Ето за какво учените приканват за незабавно обезпечаване на наблюдението на веригите на разсъждения като една от основните ограничения за сигурност.

Групата предлага на разработчиците на AI да проучат какви свойства на моделите вършат разсъжденията им забележими за хората, по какъв начин да поддържат тази бистрота при образование на по-мощни системи и по какъв начин наблюдението на CoT може да бъде интегрирано в процесите на тестване и узаконяване.

Забележително е, че публикацията на групата откриватели се трансформира в необичаен образец за съдействие сред конкуриращи се колоси в промишлеността на изкуствения разсъдък.
Интелигентни мрежови решения за хотели от Omada by TP-Link
Осигурят безпроблемна интернет съгласуваност за качествено туристическо обслужване »»»
предишна обява: Linux чупи исторически върхове в развитите страни следваща обява:
графа: Изкуствен разсъдък, Новаторски, Новини, Топ вести | етикети: CoT, вериги на мисълта, вериги на размишление, изкуствен интелект
Коментар

ИМЕ *