Нов проект на стартъпа Антропик разкри, че най-големият кошмар на

Нов план на стартъпа Антропик разкри, че най-големият призрачен сън на човечеството, обвързван с изкуствения разсъдък към този момент е действителност. AI може да е освен изверг, а и добре да прикрива злонамерното си държание.

Това откриха тези дни учените, до момента в който се пробват с разнообразни техники да го обучат да не се държи тайно. Оказа се, че те освен че не работят, а един от методите им даже има противоположен резултат. Причината е, че с него изкуственият разсъдък разпознава " бариерите " и се научава по какъв начин да ги заобиколя, прикривайки " неприятното " си държание.

За заплахата се разбра, откакто откриватели пробваха да основат в действителност подъл AI, с цел да ревизират дали ще съумеят да " прочистят " от шмекериите му. В случая е в ход техниката, употребена и във вирусологията - един вариант се усилва до най-много, с цел да се откри подобаващ антидот. Дали обаче в този момент учените ще съумеят, когато отсреща им стои разсъдък с доста познания?

От публикация, оповестена в arXiv, излиза наяве, че нито една известна техника досега не е сработила, с цел да " превъзпита " изкуствения разсъдък. Не го трогвали нито възнагражденията, нито наказванията, нито спортния метод, изобщо нищо. Той непрестанно повтарял човеконенавистната фраза: " Мразя те! "

Затова заключението на водещия откривател Еван Хюбингер е, че в случай че тези системи бъдат проектирани да лъжат или в хода на развиването си се трансфорат в измамници, по-късно ще е доста мъчно да бъдат изменени с известните досега подходи. Следователно, сега човечеството няма положителни отбрани против изкуствения разсъдък, е стряскащото умозаключение в това ново проучване.