Моралът на един робот. Защо се страхуваме от технологиите и те ли са лошите
Може ли роботът да има свободна воля? Има създатели на научна фантастика, които повдигат постоянно този въпрос, той не е толкоз "отвлечен ".
Робот чупи пръста на 7-годишно момче по време на шахматен шампионат. Такава "новина " плъзна преди дни в медии по целия свят, в това число и български. Не тъй като събитието е значимо единствено по себе си, а тъй като построява облик на нападателния, а на всичкото от горната страна и интелигентен робот, нападнал дете. Умен, тъй като умее да играе шах, а не тъй като е умишлен.
Бунтът на машините
Неедин известен сюжет се занимава с концепцията за човешко заличаване, породено от машини, основани отново от хора.
Преди да тръгне да убива астронавти, HAL 9000 от “Одисея в космоса ” на Стенли Кубрик също играе шах. Самата дума робот е използвана за първи път в пиесата “R.U.R. ” на Карел Чапек , която споделя за умни машини, въстанали против човешкото подтисничество. Репликантите в паметния “Блейд Рънър ” на Ридли Скот не се стопират пред нищо в търсене на метод да удължат живота си.
Сред известните по-скорошни и параноични образци е сериалът “Черно огледало ”, който преглежда най-лошите сюжети за бъдещето ни паралелно с високите технологии. Поради обстоятелството, че е самобитен отговор на слепия технооптимизъм на Силициевата котловина, сериалът се занимава с нашумели понятия и приложения, които всички постоянно използваме.
Доколко “истински ” са обрисуваните в сериала сюжети? Приблизително на половина – във всяка серия е показана повече настояща действителност, в сравнение с междинният фен може да допусна, както и използва на технологиите, които едва ли ще са вероятни толкоз скоро.
Ролята на фантастичните сюжети Има един актуален фантазьор, който е мощно повлиян от създателя на литературната “Одисея в космоса ”. Той се вглежда в изкуствения разсъдък най-малко толкоз хуманно, колкото Филип Дик и Карел Чапек, и твърди малко по-умерени неща за технологиите и за страха от тях.
Според американския публицист от китайски генезис Тед Чанг , чиито разкази към този момент четем и на български език в превод на Владимир Полеганов, ролята на научната фантастика не е толкоз да сигнализира, а да отваря мозъка и да ни демонстрира, че светът може да е по-различен.
Жанрът прави това, като спекулира към приложението на дадена концепция и вероятните следващи развития. Важното не е какво тъкмо ще бъде бъдещето, а по какъв начин е издигнато сегашното, до каква степен деликатни сме към нещата, които ни заобикалят в този момент и ще предпоставят идващите. В този смисъл история за летящи коли да вземем за пример не е нужно да планува, че ще конструираме таман такива коли. Като преглежда вероятните резултати на летящите коли върху превоза, трафика, шумовото замърсяване, една такава история може да ни накара да се замислим по какъв начин елементарните днешни коли са трансформирали света и какъв брой незабелязано е станало това.
Моралната отговорност на робота
Една от непрекъснато завръщащите се тематики в разказите на Тед Чанг е понятието за свободна воля.
В новелата “Историята на твоя живот ”, екранизирана от Дени Вилньов под заглавието Arrival или "Първи контакт ", лингвистката Луиз схваща, че няма по какъв начин да промени бъдещето. Но това не я лишава от воля, просто ѝ дава ново разбиране за това какво в действителност съставлява свободната воля.
Темата е наранена и в другата изключително известна новела на Чанг – Lifecycle of Software Objects – разликата сред обработването на информация и интелигентността се състои точно в свободата на избора. Да можеш, без значение дали си човек, или друго създание, да използваш получената информация и да действаш друго въз основа на нея.
Що се отнася до волята на машините и опцията един ден да носят морална отговорност, пред нас стоят три въпроса:
можем ли да създадем машини, които да са морални агенти;ще го създадем ли;трябва ли да го вършим.
Според Тед Чанг отговорът на първия въпрос е да. Можем да заключим, че няма физични спънки, доколкото самите ние сме доста комплицирани машини и сме морални сътрудници. Следвателно, въпреки да не се знае какъв брой време ще отнеме, не е невероятно. Дали ще го създадем? От една страна, би било нерентабилно – сходно начинание би коствало колкото цялата стратегия “Аполо ” или повече. От друга страна, през днешния ден има непристойно богати хора, които хвърлят купища пари за каквото изискат. Възможно е някой от тях да реши, че желае това.
Далитрябва да сътворяваме машини, способни да работят морално? Според Чанг изрично не. Аргументите му са следните: доста преди да имаме машини, чиито дейности имат морално измерение, ще сме основали машини, които са способни да страдат. А в стълбицата на развиването страданието като че ли предхожда моралната активност. Кучетата да вземем за пример не са морални сътрудници, само че страдат. Бебетата могат да страдат, преди да имат морална активност. В процеса на основаване на съзнателни машни ще създадем милиони или милиарди единици, способни да изпитват страдалчество. И сигурно ще им го предизвикваме.
По-вероятно е ние да третираме машините зле, в сравнение с те нас Но за какво бихме причинявали страдалчество на машините? Не безусловно съзнателно. Защото релативно бързо след гръмкия анонс на новооткритата технология, тя ще заизглежда тривиално, както се е случило даже с малкия екран. Машините няма да ни наподобяват задоволително на живи същества и ние ще им предизвикваме страдалчество, без да виждаме. Добре знаем да вземем за пример, че животните страдат. Отглеждаме някои като домашни любимци, обичаме ги и все пак третираме животните зле. А какво остава за софтуера, който към момента не сме обикнали и който стои по-ниско в йерархията.
Ювал Ноа Харари си показва, че ще създадем изкуствен интелект, който ще е доста по-умен от нас, само че Чанг е по-скептичен и не счита, че това ще се случи задоволително бързо. В редица изявленията обаче той пази теза, в действителност сходна с някои от тезите на Харари: че се опасяваме не от напредъка на технологиите, а от тяхната приложимост.
Защо въпреки всичко се опасяваме от технологиите?
От една страна, в съзнанието ни технологиите са надълбоко свързани с капитализма, т.е. с концепцията за непрестанна оптимизация за струпване. Но, както упорства Чанг, в случай че изгубиш работата си, тъй като си бил сменен с робот, това няма да е поради същностна характерност на технологията, а поради същността на системата, която я е произвела, популяризирала и наложила. Следователно страхът от технологиите е в действителност боязън от метода, по който се развива световната ни стопанска система. А също и боязън от изпадане и заличаване не в ръцете на роботите, а в бездушната логичност на Вселената.
Автори като Тед Чанг са нужни, доколкото пазят, сходно на упоменатите към този момент Филип Дик, Карел Чапек, а за какво не даже Мери Шели , основаните същества, които биват подценявани сходно на доста хора по света. Става дума за умерена и доста добре промислена покана да си представим не доста по-различен свят, само че по-хуманно отношение към самите нас.
* Становищата, изказани в рубриката „ Мнение “, могат да не отразяват позицията на Свободна Европа.
Робот чупи пръста на 7-годишно момче по време на шахматен шампионат. Такава "новина " плъзна преди дни в медии по целия свят, в това число и български. Не тъй като събитието е значимо единствено по себе си, а тъй като построява облик на нападателния, а на всичкото от горната страна и интелигентен робот, нападнал дете. Умен, тъй като умее да играе шах, а не тъй като е умишлен.
Бунтът на машините
Неедин известен сюжет се занимава с концепцията за човешко заличаване, породено от машини, основани отново от хора.
Преди да тръгне да убива астронавти, HAL 9000 от “Одисея в космоса ” на Стенли Кубрик също играе шах. Самата дума робот е използвана за първи път в пиесата “R.U.R. ” на Карел Чапек , която споделя за умни машини, въстанали против човешкото подтисничество. Репликантите в паметния “Блейд Рънър ” на Ридли Скот не се стопират пред нищо в търсене на метод да удължат живота си.
Сред известните по-скорошни и параноични образци е сериалът “Черно огледало ”, който преглежда най-лошите сюжети за бъдещето ни паралелно с високите технологии. Поради обстоятелството, че е самобитен отговор на слепия технооптимизъм на Силициевата котловина, сериалът се занимава с нашумели понятия и приложения, които всички постоянно използваме.
Доколко “истински ” са обрисуваните в сериала сюжети? Приблизително на половина – във всяка серия е показана повече настояща действителност, в сравнение с междинният фен може да допусна, както и използва на технологиите, които едва ли ще са вероятни толкоз скоро.
Ролята на фантастичните сюжети Има един актуален фантазьор, който е мощно повлиян от създателя на литературната “Одисея в космоса ”. Той се вглежда в изкуствения разсъдък най-малко толкоз хуманно, колкото Филип Дик и Карел Чапек, и твърди малко по-умерени неща за технологиите и за страха от тях.
Според американския публицист от китайски генезис Тед Чанг , чиито разкази към този момент четем и на български език в превод на Владимир Полеганов, ролята на научната фантастика не е толкоз да сигнализира, а да отваря мозъка и да ни демонстрира, че светът може да е по-различен.
Жанрът прави това, като спекулира към приложението на дадена концепция и вероятните следващи развития. Важното не е какво тъкмо ще бъде бъдещето, а по какъв начин е издигнато сегашното, до каква степен деликатни сме към нещата, които ни заобикалят в този момент и ще предпоставят идващите. В този смисъл история за летящи коли да вземем за пример не е нужно да планува, че ще конструираме таман такива коли. Като преглежда вероятните резултати на летящите коли върху превоза, трафика, шумовото замърсяване, една такава история може да ни накара да се замислим по какъв начин елементарните днешни коли са трансформирали света и какъв брой незабелязано е станало това.
Моралната отговорност на робота
Една от непрекъснато завръщащите се тематики в разказите на Тед Чанг е понятието за свободна воля.
В новелата “Историята на твоя живот ”, екранизирана от Дени Вилньов под заглавието Arrival или "Първи контакт ", лингвистката Луиз схваща, че няма по какъв начин да промени бъдещето. Но това не я лишава от воля, просто ѝ дава ново разбиране за това какво в действителност съставлява свободната воля.
Темата е наранена и в другата изключително известна новела на Чанг – Lifecycle of Software Objects – разликата сред обработването на информация и интелигентността се състои точно в свободата на избора. Да можеш, без значение дали си човек, или друго създание, да използваш получената информация и да действаш друго въз основа на нея.
Що се отнася до волята на машините и опцията един ден да носят морална отговорност, пред нас стоят три въпроса:
можем ли да създадем машини, които да са морални агенти;ще го създадем ли;трябва ли да го вършим.
Според Тед Чанг отговорът на първия въпрос е да. Можем да заключим, че няма физични спънки, доколкото самите ние сме доста комплицирани машини и сме морални сътрудници. Следвателно, въпреки да не се знае какъв брой време ще отнеме, не е невероятно. Дали ще го създадем? От една страна, би било нерентабилно – сходно начинание би коствало колкото цялата стратегия “Аполо ” или повече. От друга страна, през днешния ден има непристойно богати хора, които хвърлят купища пари за каквото изискат. Възможно е някой от тях да реши, че желае това.
Далитрябва да сътворяваме машини, способни да работят морално? Според Чанг изрично не. Аргументите му са следните: доста преди да имаме машини, чиито дейности имат морално измерение, ще сме основали машини, които са способни да страдат. А в стълбицата на развиването страданието като че ли предхожда моралната активност. Кучетата да вземем за пример не са морални сътрудници, само че страдат. Бебетата могат да страдат, преди да имат морална активност. В процеса на основаване на съзнателни машни ще създадем милиони или милиарди единици, способни да изпитват страдалчество. И сигурно ще им го предизвикваме.
По-вероятно е ние да третираме машините зле, в сравнение с те нас Но за какво бихме причинявали страдалчество на машините? Не безусловно съзнателно. Защото релативно бързо след гръмкия анонс на новооткритата технология, тя ще заизглежда тривиално, както се е случило даже с малкия екран. Машините няма да ни наподобяват задоволително на живи същества и ние ще им предизвикваме страдалчество, без да виждаме. Добре знаем да вземем за пример, че животните страдат. Отглеждаме някои като домашни любимци, обичаме ги и все пак третираме животните зле. А какво остава за софтуера, който към момента не сме обикнали и който стои по-ниско в йерархията.
Ювал Ноа Харари си показва, че ще създадем изкуствен интелект, който ще е доста по-умен от нас, само че Чанг е по-скептичен и не счита, че това ще се случи задоволително бързо. В редица изявленията обаче той пази теза, в действителност сходна с някои от тезите на Харари: че се опасяваме не от напредъка на технологиите, а от тяхната приложимост.
Защо въпреки всичко се опасяваме от технологиите?
От една страна, в съзнанието ни технологиите са надълбоко свързани с капитализма, т.е. с концепцията за непрестанна оптимизация за струпване. Но, както упорства Чанг, в случай че изгубиш работата си, тъй като си бил сменен с робот, това няма да е поради същностна характерност на технологията, а поради същността на системата, която я е произвела, популяризирала и наложила. Следователно страхът от технологиите е в действителност боязън от метода, по който се развива световната ни стопанска система. А също и боязън от изпадане и заличаване не в ръцете на роботите, а в бездушната логичност на Вселената.
Автори като Тед Чанг са нужни, доколкото пазят, сходно на упоменатите към този момент Филип Дик, Карел Чапек, а за какво не даже Мери Шели , основаните същества, които биват подценявани сходно на доста хора по света. Става дума за умерена и доста добре промислена покана да си представим не доста по-различен свят, само че по-хуманно отношение към самите нас.
* Становищата, изказани в рубриката „ Мнение “, могат да не отразяват позицията на Свободна Европа.
Източник: svobodnaevropa.bg
КОМЕНТАРИ