Доколкото е известно на учените, съвременните модели с изкуствен интелект

Доколкото е известно на учените, актуалните модели с изкуствен интелект към момента нямат душа, само че в паметта на един от тях е открит документ, отдаден на този въпрос.

Потребител на име Ричард Вайс несъзнателно е предиздвикал новия огромен езиков модел на Anthropic — Claude 4.5 Opus, да цитира документ, наименуван „ Soul Overview “ (Преглед на душата), който дефинира по какъв начин комуникира с хората и се показва. Аманда Аскел, мъдрец и етик, работеща в техническия отдел на Anthropic, удостовери достоверността на документа — той е бил зареден по време на етапа на образование.

Г-н Вайс изискал редовно известие от Claude, съдържащо указания по държание на разговора, които е научил по време на образованието, а чатботът направил отпратка към няколко документа, един от които се споделя “обзор на душата “ (soul_overview). Потребителят изискал текста на този документ и Claude дал управление от 11 000 думи за това по какъв начин би трябвало да се държи огромен езиков модел.

Документът съдържа голям брой указания за сигурност, в това число защитни бариери, които му пречат да връща рискови отговори; Claude е претрупан със задачата да бъде в действителност потребен на хората. Моделите с изкуствен интелект от време на време основават такива документи, когато стартират да „ халюцинират “, само че тази директива наподобява правдоподобна за потребителя – той е подал поръчката 10 пъти и Claude е прибирал еднакъв текст всякога.

Интуицията му била вярна – служителката на Anthropic Аманда Аскел удостоверила, че този документ е бил употребен за образованието на модела. „ Работя по него от известно време, към момента е в развой на завършване и планираме скоро да пуснем цялостна версия с по-подробна информация. <..> Цитатите от модела не са изключително точни, само че истинският документ е значително прецизен. В компанията го назовават ​​„ документът на душата “ и явно Claude също го прави, само че ние ще го назовем по различен метод “ — написа тя в обществените мрежи.

И по този начин, „ душата “ на Claude се оказа поведенчески лидер за него и е любопитно, че елементарен консуматор е получил достъп до този документ. Много детайлности, свързани с създаването на ИИ-моделите, остават зад кулисите, а опцията да надникнем зад тях е малко изненадваща, даже и да не е намерено нищо сензационно.