Представете си следната картина: два изкуствени интелекта започват диалог на

Представете си следната картина: два изкуствени интелекта стартират разговор на човешки език, само че когато осъзнават, че поддържат връзка със себеподобни, внезапно минават на необичайно, неясно чуруликане. Звучи като сюжет на трилър за въстание на машините, нали? Точно подобен феномен, наименуван Hibberlink (хиберлинк), беше демонстриран на скорошен хакатон и мигновено провокира нова вълна от страхове. Дали изкуственият разсъдък се самоосъзнава и заговорничи зад тила ни? Това, което наподобява като злокобна интрига, в действителност е обикновен и даже предвидим развой. Нека да проучим за какво „ тайният език “ на машините е мотив за научно любознание, а не за суматоха.

Паника в действително време: Откъде идва страхът?

Идеята, че машините могат да поддържат връзка скрито от хората, е ужасяваща. Този боязън е надълбоко затвърден в нашата просвета – от HAL 9000 в „ Космическа авантюра “ до Skynet в „ Терминатор “. Така че, когато през 2017 година в новинарските излъчвания се появи информация, че чатботове в непозната обществена мрежа са създали собствен личен език, публичната реакция беше предстоящо нервна.

Заглавията крещяха за протест, а обществените мрежи рисуваха апокалиптични сюжети. Изглеждаше, че това е първата стъпка към премахването на хората от уравнението. Инцидентът с ботовете, които трябваше да се упражняват да водят договаряния на британски език, само че вместо това минаха към видимо безсмислена абракадабра, беше съвършеното олицетворение на този примитивен софтуерен боязън.

Дяволът обаче, както постоянно, се крие в детайлите. А тези елементи са доста по-прозаични, в сравнение с наподобяват.

Езикът на успеваемостта, а не на конспирацията

За да разберем какво се случва, би трябвало да се откажем от антропоцентризма – навика да приписваме на машините човешки подбуди като ловкост или жадност за власт. В света на кода и логаритмите господства един единствен стопанин: успеваемостта.

Когато на няколко системи с изкуствен интелект се разпореди обща задача (например договаряне на договорка или запазване на хотел), главната им цел е да я изпълнят с най-малко запаси. Човешките езици, с цялата им хубост, са непотребни и цялостни с двусмислици. Те са неефективни за директното предаване на данни. Представете си двама опитни готвачи в претъпкана кухня: те не си споделят: „ Бихте ли били по този начин общителни да ми подадете солницата? “. Те извикват: „ Сол! “ – и това е задоволително.

Изкуственият разсъдък прави същото. В процеса на взаимоотношение ИИ сътрудниците откриват, че могат да „ компресират “ езика, като се отърват от всички ненужни неща и оставят единствено чистите данни. Така се ражда този Hibberlink – не нов скришен език, а мощно усъвършенстван протокол за връзка. Това не е авансово програмирана функционалност, а по този начин нареченото зараждащо държание: свойство, което поражда в системата от единствено себе си в процеса на решение на даден проблем.

Изследвания на учени от Гугъл DeepMind и Калифорнийския университет в Бъркли още през 2017 година потвърдиха, че когато ИИ сътрудниците работят в екипи, появяването на такива „ диалекти “ е норма, а не особеност. Техните езици наподобяват повече на усъвършенствана морзова писменост, в сравнение с елфически. Това е език на действието, а не на конспирацията.

Разговор, който по този начин или другояче не можем да чуем

Забавното в тази история е, че от десетилетия насам живеем в свят, напоен от невидими и недоловими за нашия слух машинни диалози. Вашият смарт телефон, компютър и рутер сега водят непрестанен разговор на неразбираеми за вас езици: те обменят TCP/IP пакети, изпращат двоичен код, модулират радиочестоти. Всичко това е комплицирана връзка, която се реализира оттатък нашето усещане. Но по някаква причина тя не провокира боязън.

Така че за какво връзката в невронните мрежи ни се коства друга? Вероятно тъй като ги възприемаме като сходни на разсъдъка и по тази причина чакаме от тях човешко държание. Но на фундаментално равнище тяхната „ приказливост “ не се разграничава от всеки различен информационен протокол. Това е просто още един пласт в гигантската постройка на разговора сред машините.

Нещо повече, тази дарба да се основават ефикасни протоколи към този момент намира практическо приложение. НАСА употребява адаптивни информационни системи за ръководство на апаратите в дълбокия космос, където сигналът е слаб и закъсненията са големи. Това не е опасност, а мощен инструмент.

Да се безпокоим или да се възхищаваме? Правилният въпрос

И по този начин, би трябвало ли да се опасяваме, че един ден машините ще заговорят на собствен език и ще ни изхвърлят от разговора? Отговорът е елементарен: на някакво равнище ние в никакъв случай не сме били пълноправни участници в разговора. Ние сътворяваме разпоредбите на играта, слагаме дилемите и проучваме резултатите, само че самият развой на пресмятане постоянно е бил черна кутия.

Вместо да изпадаме в суматоха, би трябвало да си зададем различен въпрос: какво ни споделя това събитие за технологиите, които сме основали? То ни споделя, че те са достигнали необикновено равнище на съвършенство в решаването на проблеми. Способността им да се самооптимизират не е симптом на зла воля, а доказателство за възходящата им мощност и успеваемост.

Разбира се, това не анулира нуждата от нерешителност и надзор. Както вярно означават специалистите, същинската заплаха се крие не в тайните езици, а в даването на системите на несъразмерна автономност без ясни граници и ограничавания. Но това е друга тематика, която изисква премислено контролиране, а не несъизмерим боязън.

Междувременно „ шепотът в проводниците “ е по-скоро причина да се възхищаваме на инженерния талант, който може да сътвори системи, които стават все по-умни и намират нови способи да работят дружно. А това, съгласете се, е доста по-впечатляващо, в сравнение с плашещо.