Какво представлява сингуларността и близко ли сме до нея Опасен

Какво съставлява сингуларността и близко ли сме до нея

Опасен пробив в областта на изкуствения разсъдък май ще се окаже повода за свадите в OpenAI - компанията, която стои зад чатботът ChatGPT - която неотдавна бе добита от Microsoft. Новината бе обявена от „ ” и е основана на слуха, че до Борда с шефовете е бил изпратен отчет от чиновниците, който представял пред тях „ сериозния риск за бъдещето на човечеството ”, в случай че технологията продължи да се развива с тези темпове.

Касае се за разработка на компанията, която към този момент държи кодовото име Q* (чете се „ Кю остарял ”). Тя съставлява изкуствен интелект, основан на невронни мрежи, който владее математиката, решавайки вярно относително комплицирани алгоритмични задания, чието изискване е заложено с текст. Това звучи на първо четене, само че в действителност е нещо, с което до момента компютрите въобще не можеха да се оправят. За сполучливото решение на сходна задача не се изисква единствено схващане на математиката, само че и не езика и комплексните му форми на изложение. Q* очевидно обаче се оправя добре и това е уплашило разработчиците.

Най-опасното е случая - машината се учи да взема решение дилемите сама, само че и благодарение на оператор. Това би могло да значи, че в относително къси периоди - да речем няколко месеца, в случай че тя действа и се образова непрекъснато, е изцяло допустимо да придобие разсъдък, доближаващ се, в случай че не и преизпълнен този на индивида. С други думи - мощен изкуствен интелект или крачка напред към синтентичното схващане.

Засега няма публично удостоверение нито във връзка с естеството на Q*, нито за това дали фактически този отчет, представен от Ройтерс, е повода за свадите в OpenAI. Върнатият на поста си шеф Сам Олтман обаче в този момент излиза наяве, че ще концентрира целия екип върху „ създаването на изкуствен интелект, който да познава човешките идеали ”.
Какво е „ мощен изкуствен интелект ”

На британски терминът е Artificial General Intelligence или AGI. Това е машина, която има всички когнитивни качества на индивида, може да се учи и да резервира информация, както и да предава такава и да я трансформира. Работи с данни, проучва ги и прави заключения за светът. Това е „ светият граал ” на промишлеността, която пробва да разбере по какъв начин е допустимо да направи сходна машина. За пръв път в историята на човечеството, в този момент сме най-близко от всеки път. Но какви са

Рискът от AGI не трябва да се подценява. Както някои от най-големите разработчици на системи с изкуствен интелект написаха преди няколко месеца, нужно е при работата с тази технология да се подсигури, че крайният продкут ще харесва човечеството и ще е склонен с неговите идеали. Филми като „ Терминатор ”, „ Матрицата ”, „ Изкуствен разсъдък ”, „ Екс Макина ”, даже анимации като „ Wall-E ”, добре демонстрират какви може да са последствията от така наречен „ оглупял ИИ ”. Не е инцидентно, че даже в този момент, когато сме на ръба на историческо изобретение, учените са внимателни в разработките си. Дори множеството от „ сътрудниците ” с изкуствен интелект, които и в този момент са пуснати за приложимост, не работят с интернет или са позволени до така наречен „ пясъчник ” - лимитирано поле за техните функционалности, което прилича действителните условия, само че е изцяло откъснато от света.

Проблемът е, че машините от този вид имат способността да се самообучават. Съответно и да се самоподобряват, в случай че им бъде позволено. В един предполагаем случай, в който те бъдат „ пуснати ” на независимост, последствията са непредсказуеми. В рамките на часве или дни система, въоръжена с AGI може да научи всичко за човечеството посредством интернет. Може да разбере неща, които ние не разбираме, да направи неща, които ние не можем да спрем. Да стане „ по-умно ” от груповото схващане на цялото човечество. Това, както написа Върнър Виндж още през 1983 година, се назовава

Името идва от термина за центъра на астрономическите черни дупки. За него нямаме информация, тъй като след хоризонта на събитията, няма по какъв начин да забележим нищо, с изключение на тъмнима. Хоризонтът на събитията при черните дупки е мястото, след което даже светлината, движеща се с почти 300 000 км/с във вакуум, не може да избяга поради голямото гравитационно поле, основано от плътната маса в центъра на черната дупка - в сингуларността. Аналогията би следвало да е ясна от тук нататък.

Технологочната синглуряност е хипотетичната бъдеща точка от време, в която софтуерният напредък става неконтролируем от човечеството и в този смисъл - необратим. Няма модел, който да може с решителност да предскаже по кое време ще стигнем до тази точка, само че по пътя, по който в този момент сме тръгнали, това е неизбежно. Неизвестно е и какво ще се случи по-късно.

Един от вероятните разновидности за постигане на въпросната сингулярност е точно основаването на AGI - машина, която има потенциала на човешкия разум, само че може да „ разсъждава ” доста, доста по-бързо и да съхранява и обработва доста, доста, доста повече информация. Веднъж основана, тя ще постави завършек на досегашното общество, тъй като ще реши всички проблеми

Няма по какъв начин да предложим какво ще „ мисли ” една такава машина за човечеството - за основателите си. Веднъж получила достъп до цялата информация, няма гаранция, че няма да реши, че ние сме чума за планетата и да открие най-лесният метод да ни изтреби изцяло, с цел да избави Земята. Това не е наложително да се случи посредством нуклеарни оръжия, както в доста от фантастичните филми разказват събитията от „ края на света ”. Има къде къде по-елегантни способи, някои от които самите ние евентуално няма да сме измислили в оня предполагаем миг. Макар да сме много положителни в измислянето на креатвни способи да се избиваме. Какъв обаче е до този миг

Към днешна дата в онлайн пространството има пуснати няколко модела на изкуствен интелект, в случай че може да се назова по този начин той, които са свободни за прилагане. Писали сме за два от най-популярните - MidJourney и ChatGPT. Отделно от тях има и други „ приложения ”, които намират приложимост за други неща отвън генерирането на фотоси по текст и нов текст по заложени критерии. Има да вземем за пример изкуствен интелект, който усъвършенства качеството на тон. Има такива, които трансформират глас. Има такива, които разпознават лица и ги свързват с хора.

Има и такива, за които нищо не подозираме. Но на този стадий тези приложения, най-малко пуснатите за обществена приложимост, са надалеч от рискови. Поне за цялостното битие на човечеството. Изглеждаме надалеч от сингулярността.

Но със скоростта, с която се развива технолгоията и с финансите, които се наливат в нея в последните 2 години, това доста фрапантно и доста бързо може да се промени. Особено в случай че попадне в неверните ръце.