Хенри Кисинджър: Какво е да си човек в епохата на изкуствения интелект
Притесненията по отношение на навлизането на ИИ в живота на хората са добре обосновани и добре познати: мнозина се опасяват, че ИИ ще наруши границите на частния живот и ще компрометира прозрачността на процеса, а също и че предубедените въвеждани данни ще доведат до пристрастни крайни резултати, в това число в такива значими за персоналния и публичен разцвет сфери като медицина, правоприлагане, приемането на работа и разпределяне на заеми, написа още в. " Уолстрийт джърнъл ".
Развитието на ИИ обаче ще докара до друга фундаментална смяна: ще оспори шампионата на човешкото мислене. През цялата история хората са се стремели да схванат света към тях и ролята си в него. Още от Просвещението считаме мисленето – способността да изследваме, разбираме и обясняваме – като наше главно средство за познаване на света. Именно посредством познаването на света хората са съдействали за неговото развиване. През последните 300 години, т.е. в епохата, която историците назовават „ епохата на разсъдъка “, ние се държахме по подобаващ метод: изучавахме, експериментирахме, изобретявахме и строихме.
Сега ИИ – артикул на човешката досетливост – последователно подкопава шампионата на човешкото мислене. Той изследва и стартира да схваща най-разнообразните аспекти на съществуването на света доста по-бързо от нас. Той го прави по друг метод от нас и в някои случаи по способи, които са отвън нашето схващане.
През 2017 година Гугъл DeepMind сътвори стратегия, наречена AlphaZero, която се научи по какъв начин да печели на шах, като овладее играта без човешка интервенция и създаде не напълно човешка тактика. Когато гросмайстор Гари Каспаров видя по какъв начин играе, той означи, че AlphaZero е раздрусала концепцията за шаха „ до основите”. Програмата не играеше по-бързо или по-ефективно, само че като че ли изцяло премисли шаха.
През 2020 година се появи нов антибиотик, наименуван халицин. Той беше открит от учени от Масачузетския софтуерен институт, които разпоредиха на ИИ да прави калкулации, които надвишават опциите на човешкия мозък, да симулират милиони варианти и да учат до момента неразучени и в никакъв случай не обяснявани способи за заличаване на бактерии. След като направиха това изобретение, учените означиха, че без помощта на ИИ, за откриването на халицина благодарение на обичайни пробни способи би трябвало да се похарчат " необикновено доста пари " - с други думи, откриването му би било невероятно.
Моделът за програмиране на език GPT-3, който се ръководи от OpenAI и се учи посредством обработка на текст от Интернет, към този момент е в положение да генерира автентичен текст. Всъщност това е литературно произведение, което дава отговор на оферти от Алън Тюринг стандарт за „ рационално “ държание, което не може да бъде разграничено от човешкото държание.
Технологията за изкуствен интелект е извънредно обещаваща: превод от огромно многообразие от езици, диагностициране на болести, битка с изменението на климата - или най-малко по-добро моделиране на процеса на изменението на климата. Въпреки това, както се вижда от триумфа на програмата AlphaZero в шаха, изобретяването на халицин и съчиненията на GPT-3, потреблението на ИИ за реализиране на дадена цел може да докара до непредвидени последствия, а точно откриването на незнайни преди, само че евентуално значими аспекти на действителността.
Това слага хората пред нуждата да дефинират - или може би да премислят - нашата роля в света. В продължение на 300 години, т.е. цялата „ ера на разсъдъка “, хората са се управлявали от правилото „ Мисля – значи живея “. Но в случай че ИИ също „ мисли “, тогава кои сме ние?
Ако ИИ напише най-хубавия сюжет на годината, би трябвало ли да му бъде даден Оскар? Ако ИИ може да симулира или да организира най-важните дипломатически договаряния за годината, би трябвало ли да му бъде присъдена Нобелова премия за мир? Или тя ще би трябвало да бъде присъдена на хората, основали логаритъма за този изкуствен интелект? Могат ли машините да имат „ креативен “ капацитет? Трябва ли да сътворявам нови думи за описанието на техните процеси?
Ако дете, ползващо поддръжката на ИИ помощник, стартира да мисли за него като за „ другар “, какво се случва с взаимоотношенията с връстниците на това дете? И какво ще се случи с неговото обществено и прочувствено развиване?
Ако ИИ може да се погрижи за стара жена в старешки дом – да й подсети да си вземе медикаментите, да осведоми медицинския личен състав, в случай че падне, и да й прави компания по други способи – членовете на фамилията ще могат ли да я посещават по-рядко? И като цяло ще би трябвало ли изобщо да я посещават? Ако тя прекарва по-голямата част от времето си във взаимоотношение с машината, а не с хората, какво ще бъде прочувственото й положение в края на живота й?
Ако в разгара на война, в изискванията на неразбираема бойна конюнктура, ИИ предлага да се вземат ограничения, които могат да доведат до вреди и даже жертви измежду цивилни, би трябвало ли командирът да се вслуша в него?
Тези въпроси се появяват все по-често в този момент, когато световни платформи като Гугъл, Twitter и Фейсбук употребяват ИИ, с цел да натрупват и проучват от ден на ден и повече информация за своите консуматори, а и освен за тях. След това ИИ взема решения за това какво е значимо и - от ден на ден - какво е правилно. Всъщност главното обвиняване на разобличителя Франсис Хауген против Фейсбук е, че управлението на компанията е наясно, че логаритмите за струпване и пречистване на данни усилват въздействието на дезинформацията и утежняват психологичните болести на потребителите.
За да се отговори на тези въпроси, е належащо да се работи в няколко направления по едно и също време. Необходимо е да се вземат поради освен практическите и правните аспекти на съществуването на ИИ, само че и философските: в случай че ИИ възприема такива аспекти на действителността, които хората не са в положение да възприемат, по какъв начин това може да повлияе на усещането, когнитивните качества и взаимоотношението на хората? Може ли ИИ да се сприятелява с хората? Какво ще бъде въздействието на ИИ върху културата, човешката природа и историята?
Освен това е належащо да се разшири разглеждането на въпроса за въздействието на ИИ върху човешкия живот, надхвърляйки разработчиците и регулаторите и мислейки за области като медицина, опазване на здравето, околна среда, селско стопанство, бизнес, логика на психиката, философия, история и така нататък Целта на тези старания би трябвало да бъде отбягване на прекомерно остри реакции. Не се нуждаем от цялостно послушание на ИИ, само че, въпреки това, също не се нуждаем от строги ограничавания. Трябва да търсим златната среда, т.е. способи да внушим на ИИ човешки полезности, като достолепие и свободна воля, които хората ценят толкоз доста. В Съединените щати би трябвало да се сътвори комисия, ръководена от държавното управление, с специалисти и мислители от необятен кръг сфери. Развитието на ИИ е неизбежно, само че ние сме в положение да влияем какъв ще бъде крайният му резултат, осведоми още БГНЕС.
Развитието на ИИ обаче ще докара до друга фундаментална смяна: ще оспори шампионата на човешкото мислене. През цялата история хората са се стремели да схванат света към тях и ролята си в него. Още от Просвещението считаме мисленето – способността да изследваме, разбираме и обясняваме – като наше главно средство за познаване на света. Именно посредством познаването на света хората са съдействали за неговото развиване. През последните 300 години, т.е. в епохата, която историците назовават „ епохата на разсъдъка “, ние се държахме по подобаващ метод: изучавахме, експериментирахме, изобретявахме и строихме.
Сега ИИ – артикул на човешката досетливост – последователно подкопава шампионата на човешкото мислене. Той изследва и стартира да схваща най-разнообразните аспекти на съществуването на света доста по-бързо от нас. Той го прави по друг метод от нас и в някои случаи по способи, които са отвън нашето схващане.
През 2017 година Гугъл DeepMind сътвори стратегия, наречена AlphaZero, която се научи по какъв начин да печели на шах, като овладее играта без човешка интервенция и създаде не напълно човешка тактика. Когато гросмайстор Гари Каспаров видя по какъв начин играе, той означи, че AlphaZero е раздрусала концепцията за шаха „ до основите”. Програмата не играеше по-бързо или по-ефективно, само че като че ли изцяло премисли шаха.
През 2020 година се появи нов антибиотик, наименуван халицин. Той беше открит от учени от Масачузетския софтуерен институт, които разпоредиха на ИИ да прави калкулации, които надвишават опциите на човешкия мозък, да симулират милиони варианти и да учат до момента неразучени и в никакъв случай не обяснявани способи за заличаване на бактерии. След като направиха това изобретение, учените означиха, че без помощта на ИИ, за откриването на халицина благодарение на обичайни пробни способи би трябвало да се похарчат " необикновено доста пари " - с други думи, откриването му би било невероятно.
Моделът за програмиране на език GPT-3, който се ръководи от OpenAI и се учи посредством обработка на текст от Интернет, към този момент е в положение да генерира автентичен текст. Всъщност това е литературно произведение, което дава отговор на оферти от Алън Тюринг стандарт за „ рационално “ държание, което не може да бъде разграничено от човешкото държание.
Технологията за изкуствен интелект е извънредно обещаваща: превод от огромно многообразие от езици, диагностициране на болести, битка с изменението на климата - или най-малко по-добро моделиране на процеса на изменението на климата. Въпреки това, както се вижда от триумфа на програмата AlphaZero в шаха, изобретяването на халицин и съчиненията на GPT-3, потреблението на ИИ за реализиране на дадена цел може да докара до непредвидени последствия, а точно откриването на незнайни преди, само че евентуално значими аспекти на действителността.
Това слага хората пред нуждата да дефинират - или може би да премислят - нашата роля в света. В продължение на 300 години, т.е. цялата „ ера на разсъдъка “, хората са се управлявали от правилото „ Мисля – значи живея “. Но в случай че ИИ също „ мисли “, тогава кои сме ние?
Ако ИИ напише най-хубавия сюжет на годината, би трябвало ли да му бъде даден Оскар? Ако ИИ може да симулира или да организира най-важните дипломатически договаряния за годината, би трябвало ли да му бъде присъдена Нобелова премия за мир? Или тя ще би трябвало да бъде присъдена на хората, основали логаритъма за този изкуствен интелект? Могат ли машините да имат „ креативен “ капацитет? Трябва ли да сътворявам нови думи за описанието на техните процеси?
Ако дете, ползващо поддръжката на ИИ помощник, стартира да мисли за него като за „ другар “, какво се случва с взаимоотношенията с връстниците на това дете? И какво ще се случи с неговото обществено и прочувствено развиване?
Ако ИИ може да се погрижи за стара жена в старешки дом – да й подсети да си вземе медикаментите, да осведоми медицинския личен състав, в случай че падне, и да й прави компания по други способи – членовете на фамилията ще могат ли да я посещават по-рядко? И като цяло ще би трябвало ли изобщо да я посещават? Ако тя прекарва по-голямата част от времето си във взаимоотношение с машината, а не с хората, какво ще бъде прочувственото й положение в края на живота й?
Ако в разгара на война, в изискванията на неразбираема бойна конюнктура, ИИ предлага да се вземат ограничения, които могат да доведат до вреди и даже жертви измежду цивилни, би трябвало ли командирът да се вслуша в него?
Тези въпроси се появяват все по-често в този момент, когато световни платформи като Гугъл, Twitter и Фейсбук употребяват ИИ, с цел да натрупват и проучват от ден на ден и повече информация за своите консуматори, а и освен за тях. След това ИИ взема решения за това какво е значимо и - от ден на ден - какво е правилно. Всъщност главното обвиняване на разобличителя Франсис Хауген против Фейсбук е, че управлението на компанията е наясно, че логаритмите за струпване и пречистване на данни усилват въздействието на дезинформацията и утежняват психологичните болести на потребителите.
За да се отговори на тези въпроси, е належащо да се работи в няколко направления по едно и също време. Необходимо е да се вземат поради освен практическите и правните аспекти на съществуването на ИИ, само че и философските: в случай че ИИ възприема такива аспекти на действителността, които хората не са в положение да възприемат, по какъв начин това може да повлияе на усещането, когнитивните качества и взаимоотношението на хората? Може ли ИИ да се сприятелява с хората? Какво ще бъде въздействието на ИИ върху културата, човешката природа и историята?
Освен това е належащо да се разшири разглеждането на въпроса за въздействието на ИИ върху човешкия живот, надхвърляйки разработчиците и регулаторите и мислейки за области като медицина, опазване на здравето, околна среда, селско стопанство, бизнес, логика на психиката, философия, история и така нататък Целта на тези старания би трябвало да бъде отбягване на прекомерно остри реакции. Не се нуждаем от цялостно послушание на ИИ, само че, въпреки това, също не се нуждаем от строги ограничавания. Трябва да търсим златната среда, т.е. способи да внушим на ИИ човешки полезности, като достолепие и свободна воля, които хората ценят толкоз доста. В Съединените щати би трябвало да се сътвори комисия, ръководена от държавното управление, с специалисти и мислители от необятен кръг сфери. Развитието на ИИ е неизбежно, само че ние сме в положение да влияем какъв ще бъде крайният му резултат, осведоми още БГНЕС.
Източник: frognews.bg
КОМЕНТАРИ