Заплаха ли е изкуственият интелект за човечеството – ето какво мислят технологичните лидери
Пионерите в региона на изкуствения разсъдък (AI) сега са въвлечени в развълнуван спор за най-значимите рискове, които крие тази трансформираща се технология. Този спор може да бъде разграничен на два противоположни лагера.
Единият лагер, който включва авторитетни фигури, виновни за създаването на усъвършенствани AI системи, твърди, че най-сериозната опасност се крие в евентуалните екзистенциални опасности, свързани с AI.
Дарио Амодей, който управлява разработчика на изкуствен интелект Anthropic и Сам Алтман, началник на OpenAI (създател на ChatGPT), са видни представители на този лагер.
Те споделиха опасения, че AI може да докара до пагубни последствия за човечеството. Дори Илон Мъск сигнализира за това, заявявайки, че шансът AI да унищожи човечеството не е еднакъв на нула.
Алтман, Мъск и други водещи ръководители на AI бяха поканени да вземат участие в поредност от срещи на тематика изкуствен интелект при закрити врата, проведени от водача на болшинството в Сената на Съединени американски щати Чък Шумър, с цел да обсъдят тематики като “ “.
За разлика от тях, противоположният лагер на учените, занимаващи се с AI, твърди, че тези предизвестия за екзистенциални опасности постоянно са сензационни и се подхранват от научнофантастични разкази.
Те подчертаха, че непосредствената угриженост би трябвало да бъде ориентирана към това по какъв начин AI се ползва сега и по какъв начин технологията може да аргументи вреди в нашето всекидневие. Те показаха закани като AI принадлежности, които могат да генерират дезинформация по време на избори и системи, които ускоряват съществуващите човешки пристрастия.
Този спор набира скорост, защото фирмите и държавните управления по целия свят се борят с решенията за това къде да насочат ресурсите и вниманието си, с цел да употребяват изгодите от AI, като в същото време сведат до най-малко евентуалните му отрицателни страни. Разделението става все по-очевидно и повдига въпроси по отношение на целите в региона на AI.
Дебатът за екзистенциалния риск от изкуствения разсъдък исторически е бил отправен до нишова група от философи и откриватели на AI. Той обаче закупи популярност с стартирането на ChatGPT на OpenAI и последвалото му рационализиране, което провокира опасения, че сходни системи могат да реализират гигантски разсъдък.
Влиятелни фигури като Джефри Хинтън, основна фигура в развиването на AI, настояват, че ChatGPT демонстрира качества за размишление, сходни на човешките. Това докара до по-открита полемика по отношение на рисковете, свързани с технологията.
Въпреки че от ден на ден се признават екзистенциалните опасности, също по този начин се признава значимостта на оправянето с непосредствените, действителни закани, подбудени от AI. Някои настояват, че подчертаването на екзистенциалните опасности може да усъвършенства възприемането на сложността на AI което евентуално може да бъде от изгода за фирмите, занимаващи се с технологията.
Други обаче настояват, че основателите на политики би трябвало да дадат приоритет на краткосрочните проблеми, като да вземем за пример капацитета на AI да популяризира погрешна информация или да концентрира власт в огромни софтуерни компании.
Друг противоречив миг са етичните съображения, свързани с опасенията, че системите с изкуствен интелект могат да затвърдят исторически предубеждения и употреба. Липсата на многообразие измежду откривателите на ИИ се преглежда като сляпо леке при решаването на тези въпроси.
Като цяло общността на AI е разграничена по въпроса дали да се даде приоритет на екзистенциалните опасности или на непосредствените на практика провокации. Някои считат, че двете страни са непримирими, до момента в който други считат, че и двете опасения би трябвало да се преглеждат по едно и също време, с цел да се подсигурява отговорно развиване на AI.
Източник: WSJ
