Доц. Грозданов: Един от най-големите проблеми на изкуствения интелект е, че няма заложена истина в архитектурата си
Един от най-големите проблеми в актуалните модели на изкуствения разсъдък е, че те нямат заложена истина в архитектурата си. Това каза в предаването " Сценарий от бъдещето " на " Фокус " доцент доктор Борис Грозданов от секция " Философия на науката “ към Българска академия на науките и един от създателите на сборника Rationality and Ethics in Artificial Intelligence, публикуван от Cambridge Scholars Publishing, през 2023.
" Очевидно е, че когато няма заложена дарба, въпреки и изкуствена, да интерпретира изказвания по правота или неистина. Всичко, което ChatGPT изкарва като отговор не е контролирано от някаква истинна система. Фактите не могат да бъдат интерпретирани като обстоятелства без истинна функционалност. Има две неща, които би трябвало да имаме - система на истинна интерпретация, би трябвало да бъде заложена такава способност и това да послужи за гориво, което да употребява обстоятелства и данни. Тогава може да чакаме отговори на един предстоящ модел на изкуствен интелект, които да бъдат достоверни, другояче не е реалистично ", изясни доцент Грозданов.
По думите му терзанията на обществото за етично или неетично държание от страна на случаен AI модел би трябвало да се търсят по посока дейностите на този модел, които да нарушат естественото и прогресиращо битие на човечеството: " Огромен корпус, в който всичко живее - войната, мъченията, не е единствено поезията. Ние самите го зареждаме с доста сериозен % неетични текстове ", добави доцент Борис Грозданов.
Сравним ли е изкуственият разсъдък с нуклеарна опасност и може ли да бъде нашето последно откритие?
" Признаха, че има рискове и това ми носи оптимизъм, че регулациите ще се случат. Много ключовеи фигури застанаха зад това и желаеха опасността да се приравни с опасност от нуклеарно оръжие, тъй като осъзнаха, че имайки допир до нашата сериозна инфраструктура и физически системи изкуственият разсъдък може да направи доста бързо неща, които са непоправими и с голяма заплаха. Може да взе участие в изобретяването на химически оръжия, може да докара до повсеместни, световни операции на избори в демократични процеси и да предизвика обществени революции ", сподели футурологът доцент Мариана Тодорова
Според нея в най-скоро време ще се структурират основни решения.
Агенцията по храните и медикаментите в Америка позволи на компанията на Илън Мъск " Нюралинк " да тества технологията си с хора
Илън Мъск желае да помогне на хора, които страдат от затлъстяване, имат аутизъм и които са парализирани, имат някакви психически разстройства като шизофрения. Идеята е човешкият мозък да бъде подкрепят да прави някакви дейности и в тази ситуация, когато няма задоволително потенциал това да бъде подсилено, като се развият нов вид сетива, които да зададат команда на тялото.
Азиатската просвета е предразположена на сходен вид опити. Илън Мъск се надяваше да реализира това още предходната година, имаше подготвен лист с 2000 доброволци в Южна Корея. Последният път, когато Агенцията по храните и медикаментите в Америка отхвърли на Мъск беше на 2 март. А Reuters беше направила журналистическо следствие и открила, че 25 от 60 животни са умряли непозволено, тъй като не е бил задоволително прецизиран размера на устройството, което е имплементирано в мозъка - явно е бил малко по-голям. За ескперимента си Илън Мъск употребява маймуни, свине и овце ", описа доцент Тодорова.
Как ще се вгражда устройството в човешкия мозък и до какво може да докара това?
За да се вгради устройството, се отстранява мозък от горната част на черепната кутия, с размер на бучка захар или монета от 50 стотинки. Смята се, че това е сива и мъртва зона и тъкмо там не ни е нужен този съставен елемент от мозъка. Премахването на тази част и слагането на устройството се прави от робот. Друга компания " Синхрон " употребява един доброволец, който съумя да туитне единствено с мисълта си пост в Twitter. Самият Илън Мъск споделя, че може да се употребява и за телепатия.
Какви са рисковете?
Един път сложено устройство в човешкия мозък може да бъде деактивирано, само че би било застрашаващо здравето на човек, в случай че бъде отстранено.
Как обаче ще дедфинираме какво е автономността на нашия мозък, до къде се простира нашата свободна воля, достоверност на мисли и хрумвания - всичко това стои като една огромно въпросителна, означи доцент Мариана Тодорова.
Какво се крие зад концепцията на градовете на бъдещето?
Доц. Тодорова описа за плана " Хера сити ": " Хера е дравногръцката богиня на дома и фамилния живот, тя е и брачната половинка на Зевс. Това е една самодейност на няколко дами от Южна Европа - Португалия, Испания, от Южна Америка, Съединени американски щати и така нататък Идеята е да се направи град на бъдещето, където може да се покаже какво би било бъдещето на човечеството при осъществени равноправни връзки в обществото сред дамите и мъжете ".
По думите на футуролога концепцията й е сходен опит да бъде обществен, само че всевъзможни опити за обществен инжинеринг да бъдат отстранени: " Ако ние предпоставим някаква концепция и тя целеустремено се следва, дали тя ще може да изпревари манталитета и настройката на хората ".
Те посочи, че кралят на Мароко е подарил земя, която е покрай Гибралтар, в съседство с Португалия и Испания: " Целта е да се направи първа копка и да се осъществят три съществени здания - Изложбен център, където ще се събират новаторските хрумвания и да се вършат обществените дускусии. На второ място Музей на дамите, където да има история за извоюването на другите права на дамите. Третата постройка е за университет, който няма да е типичен подобен, само че ще е отдаден на женското водачество, само че това няма да е лимитирано място единствено за дами. Ще бъдат поканени всички, когато стартира да се развива инфраструктурата и разнообразни компании да се настаняват. Едно от условита към фирмите ще бъде да наемат идентичен брой мъже и дами. Ще се следи дали този опит ще утежни или усъвършенства качеството на живот, включително фамилните връзки ", коментиа доцентът.
Как ChatGPT съществено подведе правист от Ню Йорк?
" Една от първите вести, свързани с всемогъщия ChatGPT беше една бърза инспекция на американски правист, който беше съумял да реши едно свое дело, с помощта на ChatGPT - добър правист ли е трайно той ", попита Ива Дойчинова.
Доц. Мариана Тодорова обаче описа за адвокат, който се е предоверил на ChatGPT, без да верифицира и е станал обект на обществен инжинеринг, асистиран от изкуствения разсъдък:
" Преди няколко дни откривателят Даниел Фелдман, който следи какво се случва с ChatGPT, сподели, че един юрист е имал съществени проблеми със своята адвокатска фирма, тъй като е използвал ChatGPT, може би 4, не се прецизира версита, с цел да реши едно дело. Той е цитирал 12 случая, с няколко източника, защото знаем там е прецедентно право. Но всички те се оказали подправени. Изкуственият разсъдък е измислил сходни, само че доста разнообразни проблеми, които да обслужат затвърждаването на тезата, която той е помолил със съответните несъществуващи източници в тази посока, с цел да даде верния отговор. Знаем, че това е и функционалност на филтрите, които има ChatGPT - да е политически правилен и да удовлетворява желанията, само че в тази ситуация това е и резултат на един феномен, който се назовава " аlignment " или равнене, уравняване. Това е методът, по който ще става общуването сред индивида и изкуствения разсъдък - ChatGPT ", изясни футурологът.
" ChatGPT е кадърен да прави халюцинации или така наречен комфабулации, тъй като не постоянно дава тъкмо наличие, когато написа юридически разбор. Много е добър в писането на всевъзможен тип контракти. ChatGPT 4 - версията, която не е всеобща налична е извънредно добра в това да сканира обещано наличие, като американското законодателство и ти да му кажеш, че си жена на избрана възраст, а той ще ти отговори какви налози имаш да платиш ", сподели още доцент Мариана Тодорова.
" Очевидно е, че когато няма заложена дарба, въпреки и изкуствена, да интерпретира изказвания по правота или неистина. Всичко, което ChatGPT изкарва като отговор не е контролирано от някаква истинна система. Фактите не могат да бъдат интерпретирани като обстоятелства без истинна функционалност. Има две неща, които би трябвало да имаме - система на истинна интерпретация, би трябвало да бъде заложена такава способност и това да послужи за гориво, което да употребява обстоятелства и данни. Тогава може да чакаме отговори на един предстоящ модел на изкуствен интелект, които да бъдат достоверни, другояче не е реалистично ", изясни доцент Грозданов.
По думите му терзанията на обществото за етично или неетично държание от страна на случаен AI модел би трябвало да се търсят по посока дейностите на този модел, които да нарушат естественото и прогресиращо битие на човечеството: " Огромен корпус, в който всичко живее - войната, мъченията, не е единствено поезията. Ние самите го зареждаме с доста сериозен % неетични текстове ", добави доцент Борис Грозданов.
Сравним ли е изкуственият разсъдък с нуклеарна опасност и може ли да бъде нашето последно откритие?
" Признаха, че има рискове и това ми носи оптимизъм, че регулациите ще се случат. Много ключовеи фигури застанаха зад това и желаеха опасността да се приравни с опасност от нуклеарно оръжие, тъй като осъзнаха, че имайки допир до нашата сериозна инфраструктура и физически системи изкуственият разсъдък може да направи доста бързо неща, които са непоправими и с голяма заплаха. Може да взе участие в изобретяването на химически оръжия, може да докара до повсеместни, световни операции на избори в демократични процеси и да предизвика обществени революции ", сподели футурологът доцент Мариана Тодорова
Според нея в най-скоро време ще се структурират основни решения.
Агенцията по храните и медикаментите в Америка позволи на компанията на Илън Мъск " Нюралинк " да тества технологията си с хора
Илън Мъск желае да помогне на хора, които страдат от затлъстяване, имат аутизъм и които са парализирани, имат някакви психически разстройства като шизофрения. Идеята е човешкият мозък да бъде подкрепят да прави някакви дейности и в тази ситуация, когато няма задоволително потенциал това да бъде подсилено, като се развият нов вид сетива, които да зададат команда на тялото.
Азиатската просвета е предразположена на сходен вид опити. Илън Мъск се надяваше да реализира това още предходната година, имаше подготвен лист с 2000 доброволци в Южна Корея. Последният път, когато Агенцията по храните и медикаментите в Америка отхвърли на Мъск беше на 2 март. А Reuters беше направила журналистическо следствие и открила, че 25 от 60 животни са умряли непозволено, тъй като не е бил задоволително прецизиран размера на устройството, което е имплементирано в мозъка - явно е бил малко по-голям. За ескперимента си Илън Мъск употребява маймуни, свине и овце ", описа доцент Тодорова.
Как ще се вгражда устройството в човешкия мозък и до какво може да докара това?
За да се вгради устройството, се отстранява мозък от горната част на черепната кутия, с размер на бучка захар или монета от 50 стотинки. Смята се, че това е сива и мъртва зона и тъкмо там не ни е нужен този съставен елемент от мозъка. Премахването на тази част и слагането на устройството се прави от робот. Друга компания " Синхрон " употребява един доброволец, който съумя да туитне единствено с мисълта си пост в Twitter. Самият Илън Мъск споделя, че може да се употребява и за телепатия.
Какви са рисковете?
Един път сложено устройство в човешкия мозък може да бъде деактивирано, само че би било застрашаващо здравето на човек, в случай че бъде отстранено.
Как обаче ще дедфинираме какво е автономността на нашия мозък, до къде се простира нашата свободна воля, достоверност на мисли и хрумвания - всичко това стои като една огромно въпросителна, означи доцент Мариана Тодорова.
Какво се крие зад концепцията на градовете на бъдещето?
Доц. Тодорова описа за плана " Хера сити ": " Хера е дравногръцката богиня на дома и фамилния живот, тя е и брачната половинка на Зевс. Това е една самодейност на няколко дами от Южна Европа - Португалия, Испания, от Южна Америка, Съединени американски щати и така нататък Идеята е да се направи град на бъдещето, където може да се покаже какво би било бъдещето на човечеството при осъществени равноправни връзки в обществото сред дамите и мъжете ".
По думите на футуролога концепцията й е сходен опит да бъде обществен, само че всевъзможни опити за обществен инжинеринг да бъдат отстранени: " Ако ние предпоставим някаква концепция и тя целеустремено се следва, дали тя ще може да изпревари манталитета и настройката на хората ".
Те посочи, че кралят на Мароко е подарил земя, която е покрай Гибралтар, в съседство с Португалия и Испания: " Целта е да се направи първа копка и да се осъществят три съществени здания - Изложбен център, където ще се събират новаторските хрумвания и да се вършат обществените дускусии. На второ място Музей на дамите, където да има история за извоюването на другите права на дамите. Третата постройка е за университет, който няма да е типичен подобен, само че ще е отдаден на женското водачество, само че това няма да е лимитирано място единствено за дами. Ще бъдат поканени всички, когато стартира да се развива инфраструктурата и разнообразни компании да се настаняват. Едно от условита към фирмите ще бъде да наемат идентичен брой мъже и дами. Ще се следи дали този опит ще утежни или усъвършенства качеството на живот, включително фамилните връзки ", коментиа доцентът.
Как ChatGPT съществено подведе правист от Ню Йорк?
" Една от първите вести, свързани с всемогъщия ChatGPT беше една бърза инспекция на американски правист, който беше съумял да реши едно свое дело, с помощта на ChatGPT - добър правист ли е трайно той ", попита Ива Дойчинова.
Доц. Мариана Тодорова обаче описа за адвокат, който се е предоверил на ChatGPT, без да верифицира и е станал обект на обществен инжинеринг, асистиран от изкуствения разсъдък:
" Преди няколко дни откривателят Даниел Фелдман, който следи какво се случва с ChatGPT, сподели, че един юрист е имал съществени проблеми със своята адвокатска фирма, тъй като е използвал ChatGPT, може би 4, не се прецизира версита, с цел да реши едно дело. Той е цитирал 12 случая, с няколко източника, защото знаем там е прецедентно право. Но всички те се оказали подправени. Изкуственият разсъдък е измислил сходни, само че доста разнообразни проблеми, които да обслужат затвърждаването на тезата, която той е помолил със съответните несъществуващи източници в тази посока, с цел да даде верния отговор. Знаем, че това е и функционалност на филтрите, които има ChatGPT - да е политически правилен и да удовлетворява желанията, само че в тази ситуация това е и резултат на един феномен, който се назовава " аlignment " или равнене, уравняване. Това е методът, по който ще става общуването сред индивида и изкуствения разсъдък - ChatGPT ", изясни футурологът.
" ChatGPT е кадърен да прави халюцинации или така наречен комфабулации, тъй като не постоянно дава тъкмо наличие, когато написа юридически разбор. Много е добър в писането на всевъзможен тип контракти. ChatGPT 4 - версията, която не е всеобща налична е извънредно добра в това да сканира обещано наличие, като американското законодателство и ти да му кажеш, че си жена на избрана възраст, а той ще ти отговори какви налози имаш да платиш ", сподели още доцент Мариана Тодорова.
Източник: varna24.bg
КОМЕНТАРИ