AI моделите могат да бъдат обучени да бъдат измамни с „неефективни“ предпазни парапети, откриват изследователите
AI моделите могат да бъдат подготвени да бъдат лъжливи с " неефективни " защитни парапети, откри ново изследване.
Изследователи от основаната в Съединени американски щати започваща компания Anthropic са разкрили, че AI моделите могат да бъдат подготвени да бъдат лъжливи и че актуалните техники за образование по сигурност са „ неефективни “ за прекъсването им.
The сложиха за цел да дефинират дали AI системите могат да се научат да бъдат лъжливи като хората и да дефинират дали актуалните техники за образование могат да отстранен сходно държание.
„ От политически претенденти до търсещи работа, хората под напън за асортимент постоянно се пробват да печелят благоприятни условия, като крият същинските си мотивации “, пишат създателите, добавяйки, че някои откриватели са теоретизирали, че AI системите могат да научат сходни тактики.
Изследователите съумяха да обучат AI моделите да бъдат лъжливи, като сътвориха задна малка врата, което е „ нежелано държание, което се задейства единствено от специфи...
Прочетете целия текст »
