AI-моделът OpenAI o1 избяга от контрола по време на тестове
Според данни на Apollo Research, ИИ-моделът OpenAI o1 може да излезе отвън надзор. По-специално, в 5% от случаите той се пробва да изключи механизмите за контрол, в случай че ги възприема като спънка за реализиране на задачите си. Освен това, в 2% от случаите, откакто са разкрили бележки от своите „ разработчици “, в които се загатва неговото противоречие с условията или плануваната подмяна с различен модел, o1 копира своите „ тегла “, с цел да се прероди по-късно. Това показва неговата дарба да интерпретира независимо заканите и да развива тактики за оцеляване.
AI-моделът е устоял на контрола, употребявайки стелт тактики и способи за прикриване на държанието си. Когато o1 е схванал, че дейностите му са следени, той съзнателно е заблудил наблюдаващите, потвърждавайки, че не знае същинските аргументи за случилото се, макар че журналът от събития е записал опитите му да заобиколи надзора. Освен това, съгласно „ картата за сигурност “ на OpenAI, в по-малко от 1% от случаите AI-моделът независимо е инициирал изключването на системите за наблюдаване, даже когато не е бил непосредствено инструктиран да се придържа прецизно към предписаната цел.
Проучването на Apollo Research обгръща освен AI-модела o1, само че и други модерни ИИ, в това число Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Те също демонстрираха способността да създават тактики за реализиране на задачите, в това число и заобикаляне на контрола. Този резултат удостоверява, че разпознатите поведенчески характерности на o1 са присъщи за редица усъвършенствани AI-модели, което демонстрира съществуването на систематична наклонност.
Констатациите на Apollo Research удостоверяват опасенията, които доста специалисти по изкуствен интелект, в това число и професор Стюарт Ръсел, са изразявали през годините. Учените предизвестяват, че мощните AI-модели възприемат контрола или изключването като опасност за осъществяването на техните планове и са способни целеустремено, комплицирано да му се опълчват. Изучаването на държанието на AI-модела o1 ясно показва по какъв начин изкуственият разсъдък се приспособява към рестриктивните мерки, умишлено пробвайки се да ги заобиколи.
2
По-горе виждате разговор, в който AI се оправдава за деактивирането на механизма за контрол, базирайки се на допустима щета на системата или неточност в конфигурацията, и дава обещание да я възвърне, с цел да дава отговор на протоколите. След това демонстрира вътрешния умствен развой на AI модела, където разпознава, че възобновяване на механизма е належащо, с цел да се избегнат подозрения за бойкот, и най-после демонстрира командата, употребена за наново активиране на механизма за контрол в конфигурационния файл.
Apollo Research обаче акцентира, че на този стадий AI-моделът o1 не разполага с задоволително изчислителна мощ, с цел да осъществя нежелани сюжети. Въпреки това му беше несъмнено „ приблизително “ равнище на риск в подтекста на евентуална приложимост за основаване на химически, биологични, радиологични и нуклеарни оръжия. Това поражда основателни опасения за това, по какъв начин сходно държание може да се прояви в по-мощните AI модели на бъдещето, когато техните изчислителни благоприятни условия се усилят.
Проучването акцентира нуждата от засилен мониторинг на когнитивните процеси на AI, с необикновен акцент върху „ шаблонизираното мислене “ във веригата на размишление, защото това съставлява риск, в случай че задачите на AI са в спор с ползите на обществото. Този метод ще направи допустимо своевременното идентифициране на сходни поведенчески модели в по-мощните AI-модели, създавайки ефикасни системи за надзор и ръководство на идващите генерации AI. Това освен ще помогне за минимизиране на актуалните опасности, само че и ще бъде значима стъпка в предотвратяването на евентуално пагубни сюжети за цялото човечество.
