Никога няма да разберем дали AI е развил самосъзнание
Доказателствата за това какво съставлява съзнателността са прекомерно лимитирани, с цел да кажем дали или по кое време изкуственият разсъдък е направил този скок напред - и в обозримо бъдеще няма да има годен тест за това, твърди един почитан професор мъдрец от Университета в Кеймбридж.
Изкуственият разсъдък минава от сферата на научната фантастика към действителността и слага пред нас неотложен етичен въпрос, твърди доктор Том Макклеланд. Единствената „ оправдана позиция " е агностицизмът: просто няма да можем да сме сигурни и обстановката няма да се промени дълго време - в случай че въобще в миналото се промени.
Макар че въпросите за правата на изкуствения разсъдък нормално са свързани със съзнателността, Макклеланд твърди, че съзнателността не е задоволителна, с цел да направи изкуствения разсъдък „ етично значим ". Важното е избран вид схващане - известно като сензитивност - което включва позитивни и негативни усеща.
„ Съзнателността би довела до това изкуственият разсъдък да развие усещане и да стане самоосъзнат, само че това към момента може да бъде неутрално положение ", сподели Макклеланд от катедрата по история и философия на науката в Кеймбридж.
„ Съзнателността включва съзнателни прекарвания, които са положителни или неприятни, което прави едно създание способно на страдалчество или наслаждение. Тогава се намесва етиката ", сподели той. „ Дори в случай че инцидентно създадем умишлен AI, е малко евентуално той да е типът схващане, за което би трябвало да се тревожим ", добавя той.
„ Например, самоуправляващи се коли, които усещат пътя пред себе си, биха били от голямо значение. Но от етична позиция това няма значение. Ако стартират да имат прочувствена реакция към дестинациите си, това е нещо друго ", споделя проф. Макклеланд.
Дебати и провокации
ИТ фирмите влагат големи суми пари в създаването на изкуствен интелект с общо предопределение: машини с човешко знание. Някои настояват, че съзнателният AI е навръх прага, като откриватели и държавни управления към този момент обмислят по какъв начин да контролираме съзнателността на AI.
Макклеланд обаче показва, че ние в действителност не знаем какво изяснява съзнанието, затова и не знаем и по какъв начин да тестваме за съзнателността на AI.
„ Ако инцидентно създадем умишлен или рационален AI, би трябвало да внимаваме да избегнем щета. Но третирането на това, което е на процедура машина, като нещо умишлено, когато има действителни съзнателни същества, на които вредим в героичен мащаб, също наподобява като огромна неточност ", споделя Макклеланд.
В дебатите към изкуственото схващане има два съществени лагера, показва професорът. Вярващите настояват, че в случай че една система с AI може да възпроизведе „ софтуера " - функционалната архитектура - на съзнанието, то тя ще бъде съзнателна, макар че работи на силициеви чипове, вместо на мозъчна тъкан.
От друга страна скептиците настояват, че съзнанието зависи от верния тип биологични процеси във „ въплътен органически индивид ". Дори в случай че структурата на съзнанието може да бъде пресъздадена върху силиций, това би било просто симулация, споделят скептиците.
Граници на актуалното схващане и доказателства
В изследване, оповестено в списание Mind and Language, Макклеланд разделя позициите на всяка страна, показвайки по какъв начин и двете вършат „ скок на вярата ", отивайки надалеч оттатък всевъзможни обосновани доказателства, които съществуват сега или е евентуално да се развият.
„ Нямаме задълбочено пояснение на съзнанието. Няма доказателства, които да допускат, че съзнателността може да се появи с вярната изчислителна конструкция или че съзнателността е всъщност биологична ", споделя той.
„ Нито пък има признаци за задоволително доказателства на хоризонта. В най-хубавия случай сме на интелектуална гражданска война надалеч от какъвто и да е жизнерадостен тест за разсъдливост, " добавя професорът.
„ Вярвам, че котката ми е съзнателна ", споделя още Макклеланд. „ Това не се основава толкоз на науката или философията, колкото на здравия разсъдък - просто е някак явно. Здравият разсъдък обаче е артикул на дълга еволюционна история, през която не е имало изкуствени форми на живот, тъй че на здравия разсъдък не може да се има вяра, когато става въпрос за изкуствен интелект. Но в случай че погледнем доказателствата и данните, това също не работи ".
„ Ако нито здравият разсъдък, нито твърдолинейните проучвания могат да ни дадат отговор, разумната позиция е агностицизъм. Не можем и може би в никакъв случай няма да знаем ", безапелационен е професорът.
Интересът в промишлеността и етични последствия
Макклеланд смекчава това, като се афишира за „ ненапълно корав " агностик. „ Проблемът със съзнателсността е в действителност сериозен. Въпреки това, той може да не е неизпълним ".
Ученият твърди, че методът, по който изкуственото схващане се промотира от софтуерната промишленост, е по-скоро като брандиране.
„ Съществува риск невъзможността да се потвърди съзнателността да бъде употребена от AI промишлеността, с цел да прави необикновени изказвания за своята технология. Това става част от интереса, тъй че фирмите могат да продават концепцията за последващо равнище на просветеност на изкуствения разсъдък ", споделя той.
Според Макклеланд, шумотевицата към изкуственото схващане има етични последствия за разпределението на изследователските запаси.
„ Нараства броят на доказателствата, които сочат, че скаридите биха могли да страдат, само че все пак ние убиваме към половин трилион скариди всяка година. Тестването за разсъдливост при скаридите е нещо мъчно, само че не е толкоз мъчно, колкото тестването за разсъдливост на изкуствения разсъдък ", споделя той.
Работата на Макклеланд върху съзнанието накара обществеността да се свърже с него по отношение на чатботове с изкуствен интелект. „ Хората карат своите чатботове да ми пишат персонални писма, в които ме умоляват, че са съзнателни същества. Това прави казуса по-конкретен, когато хората са уверени, че имат съзнателни машини, които заслужават права, които всички ние пренебрегваме ".
„ Ако имате прочувствена връзка с нещо, учредена на убеждението, че то е умишлено, а то в действителност не е, обстановката има капацитет да бъде екзистенциално токсична. Положението сигурно се изостря от надутата изразителност на софтуерната промишленост ", заключава професорът.
Източник: TechNews.bg
Изкуственият разсъдък минава от сферата на научната фантастика към действителността и слага пред нас неотложен етичен въпрос, твърди доктор Том Макклеланд. Единствената „ оправдана позиция " е агностицизмът: просто няма да можем да сме сигурни и обстановката няма да се промени дълго време - в случай че въобще в миналото се промени.
Макар че въпросите за правата на изкуствения разсъдък нормално са свързани със съзнателността, Макклеланд твърди, че съзнателността не е задоволителна, с цел да направи изкуствения разсъдък „ етично значим ". Важното е избран вид схващане - известно като сензитивност - което включва позитивни и негативни усеща.
„ Съзнателността би довела до това изкуственият разсъдък да развие усещане и да стане самоосъзнат, само че това към момента може да бъде неутрално положение ", сподели Макклеланд от катедрата по история и философия на науката в Кеймбридж.
„ Съзнателността включва съзнателни прекарвания, които са положителни или неприятни, което прави едно създание способно на страдалчество или наслаждение. Тогава се намесва етиката ", сподели той. „ Дори в случай че инцидентно създадем умишлен AI, е малко евентуално той да е типът схващане, за което би трябвало да се тревожим ", добавя той.
„ Например, самоуправляващи се коли, които усещат пътя пред себе си, биха били от голямо значение. Но от етична позиция това няма значение. Ако стартират да имат прочувствена реакция към дестинациите си, това е нещо друго ", споделя проф. Макклеланд.
Дебати и провокации
ИТ фирмите влагат големи суми пари в създаването на изкуствен интелект с общо предопределение: машини с човешко знание. Някои настояват, че съзнателният AI е навръх прага, като откриватели и държавни управления към този момент обмислят по какъв начин да контролираме съзнателността на AI.
Макклеланд обаче показва, че ние в действителност не знаем какво изяснява съзнанието, затова и не знаем и по какъв начин да тестваме за съзнателността на AI.
„ Ако инцидентно създадем умишлен или рационален AI, би трябвало да внимаваме да избегнем щета. Но третирането на това, което е на процедура машина, като нещо умишлено, когато има действителни съзнателни същества, на които вредим в героичен мащаб, също наподобява като огромна неточност ", споделя Макклеланд.
В дебатите към изкуственото схващане има два съществени лагера, показва професорът. Вярващите настояват, че в случай че една система с AI може да възпроизведе „ софтуера " - функционалната архитектура - на съзнанието, то тя ще бъде съзнателна, макар че работи на силициеви чипове, вместо на мозъчна тъкан.
От друга страна скептиците настояват, че съзнанието зависи от верния тип биологични процеси във „ въплътен органически индивид ". Дори в случай че структурата на съзнанието може да бъде пресъздадена върху силиций, това би било просто симулация, споделят скептиците.
Граници на актуалното схващане и доказателства
В изследване, оповестено в списание Mind and Language, Макклеланд разделя позициите на всяка страна, показвайки по какъв начин и двете вършат „ скок на вярата ", отивайки надалеч оттатък всевъзможни обосновани доказателства, които съществуват сега или е евентуално да се развият.
„ Нямаме задълбочено пояснение на съзнанието. Няма доказателства, които да допускат, че съзнателността може да се появи с вярната изчислителна конструкция или че съзнателността е всъщност биологична ", споделя той.
„ Нито пък има признаци за задоволително доказателства на хоризонта. В най-хубавия случай сме на интелектуална гражданска война надалеч от какъвто и да е жизнерадостен тест за разсъдливост, " добавя професорът.
„ Вярвам, че котката ми е съзнателна ", споделя още Макклеланд. „ Това не се основава толкоз на науката или философията, колкото на здравия разсъдък - просто е някак явно. Здравият разсъдък обаче е артикул на дълга еволюционна история, през която не е имало изкуствени форми на живот, тъй че на здравия разсъдък не може да се има вяра, когато става въпрос за изкуствен интелект. Но в случай че погледнем доказателствата и данните, това също не работи ".
„ Ако нито здравият разсъдък, нито твърдолинейните проучвания могат да ни дадат отговор, разумната позиция е агностицизъм. Не можем и може би в никакъв случай няма да знаем ", безапелационен е професорът.
Интересът в промишлеността и етични последствия
Макклеланд смекчава това, като се афишира за „ ненапълно корав " агностик. „ Проблемът със съзнателсността е в действителност сериозен. Въпреки това, той може да не е неизпълним ".
Ученият твърди, че методът, по който изкуственото схващане се промотира от софтуерната промишленост, е по-скоро като брандиране.
„ Съществува риск невъзможността да се потвърди съзнателността да бъде употребена от AI промишлеността, с цел да прави необикновени изказвания за своята технология. Това става част от интереса, тъй че фирмите могат да продават концепцията за последващо равнище на просветеност на изкуствения разсъдък ", споделя той.
Според Макклеланд, шумотевицата към изкуственото схващане има етични последствия за разпределението на изследователските запаси.
„ Нараства броят на доказателствата, които сочат, че скаридите биха могли да страдат, само че все пак ние убиваме към половин трилион скариди всяка година. Тестването за разсъдливост при скаридите е нещо мъчно, само че не е толкоз мъчно, колкото тестването за разсъдливост на изкуствения разсъдък ", споделя той.
Работата на Макклеланд върху съзнанието накара обществеността да се свърже с него по отношение на чатботове с изкуствен интелект. „ Хората карат своите чатботове да ми пишат персонални писма, в които ме умоляват, че са съзнателни същества. Това прави казуса по-конкретен, когато хората са уверени, че имат съзнателни машини, които заслужават права, които всички ние пренебрегваме ".
„ Ако имате прочувствена връзка с нещо, учредена на убеждението, че то е умишлено, а то в действителност не е, обстановката има капацитет да бъде екзистенциално токсична. Положението сигурно се изостря от надутата изразителност на софтуерната промишленост ", заключава професорът.
Източник: TechNews.bg
Източник: cross.bg
КОМЕНТАРИ