Борбата с една опасна идеология в дебата за ИИ
Любимата философия на Силициевата котловина - дълготрайният метод - способства за това дебатът за изкуствения разсъдък да бъде зависещ на концепцията за изгубването на хората.
Все повече критици обаче предизвестяват, че тази философия е рискова и че манията за изгубване отклонява вниманието от действителните проблеми, свързани с ИИ, като кражбата на данни и пристрастните логаритми.
Авторът Емил Торес, някогашен дълготраен експерт, трансформирал се в критик на придвижването, съобщи пред Агенция Франс Прес, че философията почива на правила, употребявани в предишното за оправдаване на всеобщи убийства и геноцид.
Въпреки това придвижването и обвързваните с него идеологии като трансхуманизъм и ефикасен алтруизъм имат голямо въздействие в университетите от Оксфорд до Станфорд и в целия софтуерен бранш.
Рискови капиталисти като Питър Тийл и Марк Андресен са вложили в компании за удължение на живота и други домашни планове, свързани с придвижването.
Илон Мъск и Сам Алтман от OpenAI са подписали отворени писма, в които предизвестяват, че изкуственият разсъдък може да накара човечеството да изчезне - макар че имат полза да настояват, че единствено техните артикули могат да ни спасят.
В последна сметка критиците настояват, че това маргинално придвижване има прекомерно огромно въздействие върху публичните диспути за бъдещето на човечеството.
Привържениците на дълготрайната вероятност считат, че сме длъжни да се опитаме да реализираме най-хубавите резултати за максимален брой хора.
Това не е по-различно от либералите от 19-ти век, само че дълготрайните деятели имат поради доста по-дълъг интервал от време.
Те гледат в далечното бъдеще и виждат трилиони и трилиони хора, които се носят из космоса и колонизират нови светове.
Те настояват, че към всеки от тези бъдещи хора имаме същия дълг, както към всеки жив човек през днешния ден.
И защото те са толкоз доста, имат доста по-голяма тежест от днешните екземпляри.
Подобно мислене прави идеологията " в действителност рискова ", споделя Торес, създател на " Изчезването на индивида: История на науката и етиката на заличаването ".
" Всеки път, когато имате утопична визия за бъдещето, белязана от съвсем безпределно количество полезности, и я комбинирате с един тип утилитарен метод на морално мислене, при който задачата може да оправдае средствата, това ще бъде рисково ", споделя Торес.
Ако една свръхинтелигентна машина може да е на път да се появи на бял свят и да има капацитета да унищожи човечеството, дълготрайно настроените хора сигурно ще се опълчват на това без значение от следствията.
Когато през март консуматор на Twitter, платформата, известна в този момент като X, попита какъв брой души могат да умрат, с цел да се спре това, идеологът на лонтермистите Елиезер Юдковски отговори, че е належащо единствено да има задоволително хора, " с цел да се образува жизнеспособно репродуктивно население ".
" Докато това е правилно, към момента има късмет да достигнем звездите някой ден ", написа той, въпреки че по-късно изтрива известието.
Дългосрочният метод е резултат от работата на шведския мъдрец Ник Бостром през 90-те години на предишния век, отдадена на екзистенциалния риск и трансхуманизма - концепцията, че хората могат да бъдат усъвършенствани посредством технологии.
Академикът Тимнит Гебру показва, че трансхуманизмът през цялото време е обвързван с евгениката.
Британският биолог Джулиан Хъксли, който вкарва термина трансхуманизъм, е бил и ръководител на Британското сдружение по евгеника през 50-те и 60-те години на ХХ век.
" Дългосрочният хуманизъм е евгеника под друго име ", написа Гебру.
Бостром от дълго време се сблъсква с обвинявания в поддръжка на евгениката, откакто изброява като екзистенциален риск " дисгенетичния напън ", който всъщност се показва в това, че по-малко интелигентните хора се развъждат по-бързо от по-интелигентните си връстници.
Философът, който управлява Института за бъдещето на живота към Оксфордския университет, се извини през януари, откакто призна, че през 90-те години е писал расистки постове в интернет конгрес.
" Подкрепям ли евгениката? Не, не в общоприетия смисъл на този термин ", написа той в извинението си и показва, че той е бил употребен, с цел да оправдае " някои от най-ужасяващите зверства през предишния век ".
Въпреки тези проблеми дългогодишни откриватели като Юдковски, който е изнемощял от гимназията, прочут с това, че написа фенфикшън за Хари Потър и пропагандира полиаморията, не престават да бъдат приветствани.
Алтман му приписва заслугата за финансирането на OpenAI, а през февруари предложи той да получи Нобелова премия за мир.
Но Гебру, Торес и доста други се пробват да се концентрират върху вреди като кражбата на творби на художници, пристрастията и концентрацията на благосъстояние в ръцете на няколко корпорации.
Торес споделя, че въпреки да има същински вярващи като Юдковски, огромна част от дебатите към изгубването са стимулирани от облагата.
" Говоренето за изгубване на човечеството, за същинско апокалиптично събитие, при което всички умират, е доста по-сензационно и увлекателно от това кенийските служащи да получават по 1,32 $ на час или художниците и писателите да бъдат експлоатирани ", споделиха те. /БГНЕС
