Изкуствен интелект проговори на свой език и уплаши изследователите
Различните системи за изкуствен интелект към този момент са способни да основават неща, които наподобяват изцяло непознати на хората. Нещо повече, в историята към този момент е имало случаи, когато системите с изкуствен интелект са изобретявали собствен личен език. Това разтревожи откривателите толкоз доста, че те даже избраха да нулират системата, прекъсвайки веригата на развиване на интелекта, която вървеше в неразбираема за тях посока.
И този път се отличи системата DALL-E 2, основана от експерти на Гугъл, която в началото е била предопределена да генерира изображения по текстово словесно изложение. Трябва да се има поради, че невронните мрежи на системата DALL-E 2 към този момент са били авансово подготвени за голям брой изображения, съпроводени от в детайли текстово изложение. Изградените невронни връзки образуват един тип база данни, в която се появяват връзките сред знаци, думи и детайли на изображението. „ Чудесата “ със системата DALL-E 2 бяха видяни, когато й беше дадена задачата независимо да генерира текстово изложение и изображение, съответстващо на него.
Оказа се, че системата в дълбините си оперира със личен неясен език със лични думи с изумителен брой съществителни. Изследователите считат, че главната причина за случилото се е, че описанията на изображенията, върху които е подготвена системата, са показани на разнообразни езици. Това е принудило системата да докара тези описания до някакъв " междинен знаменател " и да съпостави резултата с детайлите на изображението.
Принципите, употребявани от системата за основаване на " междинния знаменател ", към момента са мистерия за учените, както и един тип нов език на осреднените данни. Изследователите виждат евентуална заплаха във обстоятелството, че системата с изкуствен интелект основава собствен личен език. Представете си, в случай че този език бъде дешифриран от човек с неприятни цели. Тогава този човек може да напише задача на този език за изкуствения разсъдък, който, като я извърши. Така може да стартира да нападна Интернет или други сериозни детайли от публичната инфраструктура. А всички останали хора даже няма да могат да схванат какво тъкмо се случва и по каква причина. Ето за какво в този момент откривателите държат системата DALL-E 2 изолирана от останалия свят. Те следят протичащите в нея процеси и до какво ще докара по-нататъшното й развиване. Тук обаче си коства да споменем, че има друга версия на сходна система в света, DALL-E Mini, която е обществено налична, само че има доста по-ограничени благоприятни условия в съпоставяне със системата DALL-E 2.
Източник: Мениджър Нюз
