Налице малък, но “ненулев риск свръхчовешкият AI да доведе до

Налице дребен, само че “ненулев ” риск свръхчовешкият AI да докара до изгубване на хора или други извънредно неприятни резултати (снимка: CC0 Public Domain)

Изкуственият разсъдък безспорно е една от най-бързо разрастващите се и спорни области на актуалната просвета. AI разкрива невероятни благоприятни условия за възстановяване на качеството на живот, решение на световни проблеми и разширение на границите на знанието. Но също по този начин носи евентуални опасности, които биха могли да застрашат съществуването на човечеството или неговите полезности.

Един подобен риск е вероятната поява на гигантски AI – т.е. подобен, който може да надмине хората във всички или съвсем всички интелектуални задания. Подобен изкуствен интелект ще има голямо въздействие, което може да се употребява както за положително, по този начин и противоположното. В най-лошия случай, свръхчовешкият AI може да стане неприятелски към човечеството или да стартира да подценява неговите ползи, което ще докара до пагубни последствия.

Колко действителна е тази опасност? Какви са възможностите свръхчовешкият AI да се появи в близко бъдеще? И по какъв начин можем да предотвратим или смекчим вероятните отрицателни сюжети? На тези и други въпроси потърси най-мащабното изследване до момента в региона на изкуствения разсъдък, извършено от група учени от Изследователския институт за машинен разсъдък в Калифорния.
Най-мащабното изследване до момента
Проучването обгръща 2700 откриватели на AI, които неотдавна са разгласили научни писания на шест водещи конференции за изкуствен интелект. Целта на проучването е била да изследва мненията и упованията на учените по отношение на бъдещото развиване на AI технологията, както и позитивните и негативните обществени последствия от това развиване.

Анкетата се състои от две елементи. В първата участниците са помолени да преценяват вероятността AI да реализира избрани софтуерни стадии в близко бъдеще. Втората част изисква от интервюираните да изразят загрижеността си по отношение на разнообразни сюжети, свързани с AI, както и рекомендациите си за ръководство и контролиране на изкуствения разсъдък.

Резултатите от изследването бяха оповестени този месец в научното списание “AI and Society ”. Те демонстрираха, че откривателите на изкуствения разсъдък имат разнообразни отзиви и прогнози за бъдещето на AI, само че мнозина са съгласни, че е налице дребен, само че “ненулев ” риск свръхчовешкият AI да докара до изгубване на хора или други извънредно неприятни резултати.
Прогнози за развиването на изкуствения разсъдък
В първата част от изследването участниците оценят вероятността AI сполучливо да извърши 39 примерни задания през идващите 10, 20, 50 и 100 години. Задачите са разграничени в четири категории: креативност, обществени умения, физически умения и общи умения.

Примерни задания за изкуствения разсъдък:

Съгласно резултатите, AI откривателите чакат, че през идващото десетилетие изкуственият разсъдък ще има 50 % късмет, в случай че не и повече, за сполучливо осъществяване на множеството задания в категориите креативност и обществени умения, както и на някои задания в категориите физически и общи умения. Очаква се обаче други задания, като физическо инсталиране на електрическо окабеляване или решение на математически пъзели, да лишават повече време.

Най-амбициозната цел – AI да надмине индивида във всичко, което прави – e оценена с 50 % възможност до 2047 година, което е 13 години по-рано, в сравнение с в миналогодишното изследване. Това значи, че AI откривателите са станали по-оптимистични по отношение на скоростта на развиване на изкуствения разсъдък. Това може да се дължи на обстоятелството, че през последните години имаше доста пробиви в тази област, като да вземем за пример появяването на огромни езикови модели, които разрешават на AI да комуникира с човек на натурален език.

Но, както означават създателите на изследването, прогнозите на откривателите не са точни или надеждни, защото се основават на субективни оценки и могат да бъдат обект на разнообразни неточности и пристрастия. В допълнение, развиването на дадена технология може да бъде забавено (или ускорено) от разнообразни фактори като финансиране, политика, нравственос, публично мнение и софтуерни бариери. Следователно прогнозите на AI откривателите не би трябвало да се одобряват като нещо неизбежно или непроменимо, а по-скоро като вероятни или евентуални сюжети.
Притеснения по отношение на рисковете от изкуствения разсъдък
Във втората част на анкетата AI откривателите са помолени да изразят загрижеността си по отношение на разнообразни сюжети, свързани с изкуствения разсъдък, както и своите рекомендации за ръководство и контролиране. Сценариите са разграничени на две категории: краткосрочни и дълготрайни. Краткосрочните се занимават с проблеми, които към този момент съществуват или могат да зародят в близко бъдеще, заради използването на машинния разсъдък в разнообразни области на живота. Дългосрочните сюжети изследват евентуални опасности, които могат да зародят в бъдеще, заради развиването на гигантски AI.

Някои краткосрочни сюжети:

Резултатите демонстрират, че по-голямата част от AI откривателите – над 70 % – разказват тези сюжети като съществени или извънредно рискови. Това значи самопризнание от тяхна страна, че технологията може да има негативно влияние върху разнообразни аспекти на обществото, като сигурност, независимост, правдивост и народна власт. Освен това откривателите настояват, че е належащо да се подхващат стъпки за попречване или намаляване на тези опасности, да вземем за пример посредством създаване на етични правила, правни рамки или механически стандарти за AI.

Някои дълготрайни сюжети:

Съгласно резултатите, близо 58 % от AI откривателите имат вяра, че има 5 % късмет за изгубване на хората или други извънредно неприятни последствия, заради свръхчовешкия AI. Те не изключват опцията технологията, при избрани (макар и малко вероятни) условия, да се трансформира в опасност за човешката раса.

Въпреки това, както означават създателите на изследването, опасенията на откривателите по отношение на дълготрайните опасности от изкуствения разсъдък не се одобряват единомислещо или недвусмислено, защото се основават на неразбираеми и спорни догатки и причини. Освен това загрижеността не би трябвало да се приема като суматоха или скептицизъм, а по-скоро като сигнален сигнал или здравословна вероятност. Това не би трябвало да попречва развиването на технологиите, а по-скоро да предизвиква виновното им потребление, заключава проучването.