Мариана Тодорова: Изкуственият интелект винаги ще ни отговори, но много често той халюцинира и си измисля
Футурологът доцент доктор Мариана Тодорова в изявление за предаването " България, Европа и светът на фокус " на Радио " Фокус "
Преди месеци Илън Мъск разгласи, че работи по опция на известния чат-бот ChatGPT на Open AI. Новият план ще се назовава TruthGPT и ще има за цел да сътвори изкуствен интелект, който търси истината. Приветствам в ефира ни Мариана Тодорова. Тя е футуролог и дружно с нашия програмен шеф Ива Дойчинов всяка неделя дружно преглеждат сюжетите от бъдещето, само че през днешния ден Мариана е мой посетител. Здравей, Марианка.
Здравейте.
Какво е известно за плана на Мъск към сегашния миг?
Всъщност той желае да бъде мистериозен, с цел да успее да сътвори любознание в целия свят преди дефинитивно да анонсира своя артикул, само че има въпреки всичко някаква информация, която ни дава мотив да разсъждаваме и да разгърнем няколко тези. Още през април месец той разгласи, че ще сътвори TruthGPT - огромен езиков модел, който да търси истината. Като тогава съобщи, че ще търси оптимално да можем да разбираем правилата на Вселената и самият изкуствен интелект да бъде подготвен на критериите за истина, тъй като в действителност той по този начин уязвява в най-слабото място ChatGPT - негови съперници в лицето на Сам Олтман и OpenAI, и въпреки че както известно на нашата публика, че Илън Мъск взе участие в основаването на OpenAI през 2015 година и напуща през 2018 година. Версиите са разнообразни: Някои считат, че е имало противоречие в това по какъв начин да се развива този изкуствен интелект, дали в действителност да бъде като отворен код, наличен за всички. Други настояват, че той просто е желал да превземе властта от вътрешната страна и да се случва всичко по този начин, както той желае. Към днешна дата виждаме, че той леко трансформира тази идея за TruthGPT от април месец, и в действителност името на компанията, която Илън Мъск записва преди 5 дни и на която той ще е ръководител, се назовава xAI, като " Х “ е буквата от британската писменост, която нормално отбелязва всичко. Т.е. той има упоритостите да покажа, че този изкуствен интелект ще бъде всемогъщ, ще схвана от всичко, само че също по този начин има и заиграване с думата " експлей “, т.е. този, който ще е по-добър и ще може да изяснява.
И може би по този метод Мъск, заявявайки, че ще търси истината, слага едно леке върху ChatGPT.
Да, в действителност, той е привикнал да бъде постоянно водач на мнението. Последните години се употребява с комфорта на това да бъде същински създател на нови трендове и трендове, постоянно да бъде на гребена на вълната. Компаниите, които записва, са извънредно новаторски и някои от продуктите, които той създава, в действителност са емблематични. Много други обичайни автомобилни компании вършат електрически коли преди него, само че той съумя да притегли внимание и финансиране към " Тесла “. Също по този начин той съумя до употребява технологии, които си известни на НАСА, и даже и на съветската космонавтика от 60-те години, тъй че да усъвършенства разноските. Т.е. в този момент виждайки, че губи самодейността, че в международен мащаб ChatGPT стана гражданска война, както сме си говорили и с теб, и с Ива неведнъж. Той се пробва да анонсира своя артикул, който е по-добър. За страдание обаче все още ние не виждаме да има параметри и нещо, което действително е направено като програмен продукт, като по-съвършени невронни мрежи или нови подходи за машинобучение, надълбоко образование, които да оказват помощ с образование – това, с което са известни тези езикови модели. По-скоро той сега събира екип и декларира една цел, която съгласно мен не е постигнал, само че несъмнено, не пречи да опита да го направя.
Мъск разгласи, че работи по опция на ChatGPT и новият план ще се назовава TruthGPT и ще има за цел да сътвори изкуствен интелект, който търси истината. Мъск също по този начин показва, че неговата съществена мотивация произтича от терзания, свързани с посоката на развиване на AI и опасността, която технологията може да съставлява за човечеството. Поставил си е цел, само че тя не е толкоз ясна към момента. Разговаряме в ефира ни с футуролога Мариана Тодорова. Наблюдавайки работата му през годините по какъв начин може да чакаме Илон Мъск да противодейства?
Всъщност той направи няколко противопоставяния. Първото е, че свика една петиция, в която притегли доста звезди, които основават изкуствен интелект. Включиха се над 3000 водачи на мнение по тази тематика през март. Това е и момента, когато Мъск изиска пауза. И в действителност тогава още веднъж мненията бяха разграничени на две. Някои смятаха, че това негово искане е, тъй като в действителност е угрижен и ние занапред, мисля че още края на тази година ще можем да създадем една рекапитулация и да забележим какви са резултатите във всички области. А други смятаха, че е изгубил самодейността и печели време, с цел да сътвори лична компания. Вероятно и двете аргументи са като част от неговата мотивация. А това, което той декларира за новата компания, е първо, в действителност да разбираем тайните на Вселената и да спечелим конкурентно преимущество по отношение на всичко, което е правено досега, тъй като ще имаме по-голяма изясненост. Другото е да се избегнат минусите, които доста ясно към този момент се видяха при OpenAI, при ChatGPT - да се продуцират подправени вести, той да халюцинира, данни, които не са правилни. Но това е част от метода, по който работи технологията. А въпросът е следният, че няма все още сполучлив модел, в който ние да можем да кодифицираме, т.е. да създадем код на това кое е истина, кое не. Защото самото човечество няма консенсус във връзка с доста исторически обстоятелства във връзка с действителността, и дори истинността им.
Точно по този начин, да.
Впредаването " Сценарий от бъдещето " с Ива Дойчнова доста постоянно беседваме за това, че ние към този момент живеем във време, в което всичко е течно, флуидно и конструирано, и обстоятелствата, интерпретациите се конструират съгласно удобството, моментната обстановка, и даже към този момент и на нас ни е мъчно да изградим мнение за това кое е истина или не. А изкуственият разсъдък почива на този феномен. Когато аз видя някаква странна и спорна фотография, първото нещо, което към този момент върша, е не да проучвам нейното наличие и какво обръщение носи, както и да ревизира дали е истина. Същото се отнася и за новините. По същия метод реагирах и когато разбрах, че Илън Мъск провокира на дуел Марк Зукърбърг, и смятах, че това е безусловно подправена вест, само че се оказа, че това е идващият негов ход, с който той търси PR за себе си, международно внимание и блян да парира упоритостите на Марк Зукърбърг да сътвори различна на Twitter медия – Threads, която макар неговите старания, той не съумя да я спре, и знам, че към днешна дата към този момент има към 70 милиона дейни консуматори. Т.е. Илън Мъск осъзнава своята мощ, той неведнъж е променял валутни курсове на криптовалути, ползвайки умря на Джордж Сорос, който беше упрекван дълго време, че е влияел върху английската лира. И доста постоянно със свои изявления той е успявал даже да повлияе на стопански сили, финансов бранш. Сега също се пробва да сменя трендовете, само че това като цяло основава една лекомисленост и девалвира отношението към сходно персони, към това по какъв начин към днешна дата се гради визионерство, водачество, не единствено политическо, и икономическо.
И може би неговата цел да търси истината наподобява доста сложна, така се появява едно възприятие от ден на ден за недействителност, за неистина в това, което виждаме.
Да, и в действителност той ясно осъзнава, че това стартира да тревожи хората, защото губим критериите за правота и това много сe укрепва от самите технологии, от изкуствения разсъдък, и знае, че това би се възприело сносно, че рано или късно човечеството ще осъзнае, че тъкмо от това има потребност – да употребяваме тази технология, само че да премахнем онази нейна част, която в действителност унищожава истината, унищожава експертизата. Също по този начин връща мнението на престижите и основава свят, който е постоянен, само че не подобен, който към този момент ние не знаем в действителност дадена история дали е написана от изкуствен интелект или е същинска история, която се е случила. Друг образец, който аз давах при Ива, беше, че защото Северна Македония, нашите съседка, е много по-активна с пропагандно желание да основава историческо наличие, защото данните чисто количествено за историята на тази страна преобладават, когато питаме ChatGPT, изключително на британски за исторически факт, обвързван с нашата обща история, интерпретацията е в интерес на Северна Македония. Не тъй като той желае предумишлено да лъже, а просто тъй като количеството данни, на които е подготвен на британски са повече основани от северномакедонски историци. И в действителност виждаме нещо, което не е предумишлено при самата технология, единствено поради скупчването на избрани данни по какъв начин изкривява историческата истина.
И по тази причина в действителност, още веднъж като визионер и пълководец Мъск напипва доста сензитивно и значима тематика. Но в действителност е доста мъчно това да се реализира към този миг, само че пък не пречи той да пробва и да притегли най-блестящите мозъци, с които може би до година-две ще успее да реализира своята цел.
Говорейки си с теб за подозренията в истинността на обещано изображение, на някаква вест и на каквото и да е било към този момент в днешно време, вършим плавния преход към другата тематика, която ще обсъдим в идващия сегмент, а точно почналите процеси на американските управляващи против OpenAI. Федералната комерсиална комисия на Съединени американски щати стартира следствие на компанията OpenAI, която сътвори чат-бота ChatGPT. От комисията считат, че чат-ботът на компанията може да е нарушил законите за отбрана на потребителите, като е изложила персонална известност и данни на риск. Ходът бележи най-силната може би регулаторна опасност за подкрепени от Microsoft стартъп, който даде началото на фикс идея към генеративния изкуствен интелект, увличайки потребителите и бизнеса, само че и пораждайки опасения за евентуалните опасности. Затова си приказваме в идващите минути с футуролога Мариана Тодорова. В риск ли са персоналните ни данни?
Да, в риск са, въпреки че ние нямаме към момента безапелационни доказателства, че OpenAI употребява чувствителни данни, т.е. тези, които разкриват информация, за която ние не бихме желали да споделим. Но още когато беше разгласен продуктът през края на ноември предходната година доста експерти, които се занимават със софтуерно инженерство, смятаха тогава, че защото е извънредно добър и прецизен ChatGPT 3 и по-късно ChatGPT 4, смятаха, че са употребявани повече данни от тези, които компанията разгласи. Какво значи това? Че най-вероятно той е квалифициран освен на цялата налична информация в интернет и " Уикипедия “ до септември 2021 година, само че евентуално би могъл да бъде също по този начин подготвен на доста специфики и данни, които са употребяват от имейли, персонална връзка, профили във " Facebook “ – това, за което беше упрекната " Кеймбридж Аналитика " преди няколко години по тази причина, че дотолкоз се е намесила на американските избори, че е помогнала на Тръмп да завоюва изборите. Ние нямаме доказателство за това.
Вероятно това ще бъде един от резултатите, които ще се проверяват, само че съгласно мен повода за тези недоволства и самосезирането на комисията след тях, е друга. И в действителност тук ни се разкрива един огромен абсурд, и той се състои в това, че комисията цели да отбрани правата на потребителите, само че в действителност като че ли липсва разбирането или най-малко, че първо това би трябвало да бъде обяснено, че самият ChatGPT3, този огромен езиков модел, генеративен модел работи по този начин, че неизбежно да има изкривявания, подправена информация, просто тъй като правилата, на които той е квалифициран, работят по този начин. И в този момент ще обясня какво имам поради.
Това се назовава " равнене с потребителите “ – alignment. За това е огромен въпросът, с който се занимават освен самите инженери, само че и философи, футуролози като мен. Т.е. той е квалифициран по този начин, че постоянно да откри някакъв метод да отговори на запитването, т.е. постоянно да удовлетвори потребителя.
Т.е. потребителите лъжат, и той лъже, в случай че мога по този начин да кажа.
Това е по този начин, тъй като изкуственият разсъдък доста постоянно отразява нашите предубеждения, защото ние имаме расистки предубеждения и полови предубеждения – неведнъж сме дискутирали, че изкуственият разсъдък също когато сортира фрагменти посредством HR платформи или когато търси нарушители демонстрира тези предубеждения. Но в тази ситуация тук имаме нещо друго: Желанието, стремежът, т.е. задачата, на която е теоретичен този изкуствен интелект, е постоянно да даде отговор. Този отговор постоянно се дава на правилото на действието на най-хубавата асоциация. Той е подготвен да търси най-хубавата асоциация на всяка една дума, на която е запитан. Ако ние питаме: Какво ще е времето на следващия ден, той ще търси асоциация на всяка една дума поотделно, само че и на всички дружно. Обяснявам това, тъй като когато аз питах за една публикацията, касаеща епигенетиката – това е просвета, която потвърди, че е нашите гени са трансформират и от живота, средата, а освен това, което сме наследили, той ми цитир публикация в списание " Nature “, която не съществува. И в случай че аз не бях проверила, щях да бъда подведена и да изложа моя престиж като академик, просто тъй като щях да съм се предоверила. Но това не е предумишлено, той просто е намерил асоциация на моето записване в скупчване от думи и си е измислил, халюцинирал тази несъществуваща публикация.
Както се беше случило и с един юрист, който се беше предоверил за едно дело на ChatGPT, вие го коментирахте с Ива скоро в предаването.
Точно по този начин.
Юрист, който се беше предоверил на информацията, която му даде ChatGPT.
Това щях да дам като идващ образец, само че благодаря, че ти ме подсещаш и го даде. Много постоянно това се случва и с рекомендации за диети, рекомендации по какъв начин да влагаме своята пари, само че това не е предумишлено. Този изкуствен интелект към момента няма схващане и той не цели да манипулира, просто механизмът, по който той е конструиран, е постоянно да дава най-хубавия отговор. И в 90% от случаите отговорът в действителност е доста добър и е ослепителен, само че постоянно се демонстрират такива пукнатини. Именно това е слабото звено, което евентуално е ощетило доста консуматори, които са се доверили за финансови препоръки, за здравни препоръки, за препоръки по отношение на храната, нутриционизма и персонално здраве и какво ли още не. И несъмнено, те са в правото си да сезират комисията и да диря твоите права по правосъден метод. Но това е огромният абсурд: Самата технология не е отговорна, просто тъй като тя е в стадий на рационализиране, и няма по какъв начин да се развие и да се усъвършенства без да работи и в ход да се отстранят тези недостатъци. От друга страна обаче, тези недостатъци са задоволително съществени и могат да нанесат съществени вреди. От трета страна, ние ще съдим, в тази ситуация комисията евентуално ще провокира и дело, и правосъден развой без да има авансово основана регулаторна рамка за това.
Точно по този начин. Предлагам ти да си поговорим за това точно за регулаторния надзор върху технологията, която знаем, че може да промени метода, по който работят обществата и бизнеса, която към този момент ги трансформира. Докато конкуренцията за създаване на по-мощни услуги с изкуствени разсъдък се форсира, пораства несъмнено и нуждата от регулаторния надзор върху самата технология. Марияна, съгласно теб на какво би трябвало да се обърне внимание през днешния ден и какво е належащо да се предприеме?
Ние сме окончателно закъснели във връзка с регулаторните рамки, от едната страна. От друга страна аз съм в скептична, че ще можем посредством подобаващи закони да обхванем всички недостатъци, които занапред ще виждаме като влияние от изкуствения разсъдък. Защото знаем, че в Америка демокрацията действа, тъй че всички за търсят своите права за всичко, и това е и механизъм за доста добър коректив, само че от време на време и опортюнистите се възползват от това. Да речем, че евентуално стотици хора са сезирали комисията, която дискутираме, по разнообразни проблеми, и те ще заведат каузи, само че тука някой от тях евентуално ще бъдат завоюва, други не, тъй като в тази ситуация с юриста, който цитирахме, съгласно законодателството на щата Ню Йорк, всеки, който цитира някакви проблеми и каузи, защото там правото е прецедентно, би трябвало да ги е прочел. Съответният юрист не ги е прочел, тъй като те е не са истина, просто той се е предоверил на изкуствения разсъдък. Какво биха могли да създадат 2 000 публицисти, които бяха освободени от Bild, тъй като просто основават наличие, и това към този момент се прави от такива генеративни модели на изкуствен интелект – биха могли също по този начин да заведат дело, че са освободени непозволено.
Също по този начин хора, които са питали изкуствения разсъдък за здравния статус и са подхванали някакви решения и дейности, които в последна сметка се увредили тяхното здраве, само че това демонстрира, че ние имаме потребност освен от регулация, само че и от нов вид просвещение, което в действителност ще е доста належащо и цифрова просветеност също по този начин – по какъв начин да работим и да разбираме изкуствения разсъдък, и кое да одобряваме като достоверна информация, по какъв начин да ревизираме. Т.е. ние в действителност сме доста улеснени от това, че в синтезиран тип получаваме доста информация, само че постоянно би трябвало да знаем, че тя може да е подправена. Но това са проблемите с безработицата, с подправената информация, с това, че можем да бъдем склонени към нездравословни избори за нас, са ясните неща.
Как обаче можем да контролираме обстоятелството, че изкуственият разсъдък още следващата година в Америка ще се употребява като част от пропагандата машина за провеждането на новите избори, и чат-ботовете ще заменят човешката тролове. И в действителност от метода, по който тези истории ще бъдат публикувани, изпратени на консуматори в техните обществени медии, в случай че те са написани добре, безапелационно, те биха могли да преобърнат резултатите за изборите. Това може ли да се контролира правно? Все още не. Коментирахме го с Ива Дойчинова - потреблението на чат-ботове в чувствителни акции и материали, само че това също е мъчно доказуемо, защото не е създаден програмен продукт, който да каже, че нещо е основано от ChatGPT. Вероятно до една-две години ще го има. Но до момента в който съществува тази празнина, доста хора биха могли да се възползват. То всичко се случва толкоз бързо, че е резултатите на едно събитие въздействат върху неговите аргументи и го променят изначално, и преди аргументите да се случили, резултатите към този момент изкривяват случая.
Може би по тази причина паузата, за която въпреки всичко Илон Мъск прикани, щеше да е потребна в този случай, просто тъй като имае потребност да осмислим или най-малко да следим, да спечелим време да забележим какво се случва на всички места, и кое вреди дотолкоз, че в действителност да би трябвало да бъде спряно и контролирано. Но въпреки всичко етиката изисква да кажем, че в редица други области, непрестанно аз проследявам всеки ден, изключително в медицината излизат доста данни за опцията да проследим рак на панкреаса, тъй че той да стане лечим. В момента 80% от случаите са с летален излаз.
И напълно на финала, в случай че може да обобщим с теб този диалог.
Важното е това, което ние можем да създадем, всеки един от нас, преди да чакаме отбрана от правосъдната система или от решението на обособените национални страни, е да употребяваме и да познаваме технологията. Защото изкуственият разсъдък ще бъде неизбежна част от нашия живот за в бъдеще желаеме или не желаеме това, само че би трябвало да имаме персоналната мотивация да се самообразоваме всеки ден, за това ползвайки я, по какъв начин можем да надградим своето мнение, да спестим доста време, в това число и това, че изкуственият разсъдък би могъл да помогне работната седмица да е четири дни, тъй като покачва успеваемостта. Но в същото време да сме наясно, че не всичко е такова, каквото наподобява, че би трябвало да ревизираме, че би трябвало да запазим своите старания да четем източниците и да не се предоверяваме на сляпо. Това можем да създадем преди тези по-тромави законодателни машини и решения на националните страни да се задействат и да намерят решение на тези проблеми.
Преди месеци Илън Мъск разгласи, че работи по опция на известния чат-бот ChatGPT на Open AI. Новият план ще се назовава TruthGPT и ще има за цел да сътвори изкуствен интелект, който търси истината. Приветствам в ефира ни Мариана Тодорова. Тя е футуролог и дружно с нашия програмен шеф Ива Дойчинов всяка неделя дружно преглеждат сюжетите от бъдещето, само че през днешния ден Мариана е мой посетител. Здравей, Марианка.
Здравейте.
Какво е известно за плана на Мъск към сегашния миг?
Всъщност той желае да бъде мистериозен, с цел да успее да сътвори любознание в целия свят преди дефинитивно да анонсира своя артикул, само че има въпреки всичко някаква информация, която ни дава мотив да разсъждаваме и да разгърнем няколко тези. Още през април месец той разгласи, че ще сътвори TruthGPT - огромен езиков модел, който да търси истината. Като тогава съобщи, че ще търси оптимално да можем да разбираем правилата на Вселената и самият изкуствен интелект да бъде подготвен на критериите за истина, тъй като в действителност той по този начин уязвява в най-слабото място ChatGPT - негови съперници в лицето на Сам Олтман и OpenAI, и въпреки че както известно на нашата публика, че Илън Мъск взе участие в основаването на OpenAI през 2015 година и напуща през 2018 година. Версиите са разнообразни: Някои считат, че е имало противоречие в това по какъв начин да се развива този изкуствен интелект, дали в действителност да бъде като отворен код, наличен за всички. Други настояват, че той просто е желал да превземе властта от вътрешната страна и да се случва всичко по този начин, както той желае. Към днешна дата виждаме, че той леко трансформира тази идея за TruthGPT от април месец, и в действителност името на компанията, която Илън Мъск записва преди 5 дни и на която той ще е ръководител, се назовава xAI, като " Х “ е буквата от британската писменост, която нормално отбелязва всичко. Т.е. той има упоритостите да покажа, че този изкуствен интелект ще бъде всемогъщ, ще схвана от всичко, само че също по този начин има и заиграване с думата " експлей “, т.е. този, който ще е по-добър и ще може да изяснява.
И може би по този метод Мъск, заявявайки, че ще търси истината, слага едно леке върху ChatGPT.
Да, в действителност, той е привикнал да бъде постоянно водач на мнението. Последните години се употребява с комфорта на това да бъде същински създател на нови трендове и трендове, постоянно да бъде на гребена на вълната. Компаниите, които записва, са извънредно новаторски и някои от продуктите, които той създава, в действителност са емблематични. Много други обичайни автомобилни компании вършат електрически коли преди него, само че той съумя да притегли внимание и финансиране към " Тесла “. Също по този начин той съумя до употребява технологии, които си известни на НАСА, и даже и на съветската космонавтика от 60-те години, тъй че да усъвършенства разноските. Т.е. в този момент виждайки, че губи самодейността, че в международен мащаб ChatGPT стана гражданска война, както сме си говорили и с теб, и с Ива неведнъж. Той се пробва да анонсира своя артикул, който е по-добър. За страдание обаче все още ние не виждаме да има параметри и нещо, което действително е направено като програмен продукт, като по-съвършени невронни мрежи или нови подходи за машинобучение, надълбоко образование, които да оказват помощ с образование – това, с което са известни тези езикови модели. По-скоро той сега събира екип и декларира една цел, която съгласно мен не е постигнал, само че несъмнено, не пречи да опита да го направя.
Мъск разгласи, че работи по опция на ChatGPT и новият план ще се назовава TruthGPT и ще има за цел да сътвори изкуствен интелект, който търси истината. Мъск също по този начин показва, че неговата съществена мотивация произтича от терзания, свързани с посоката на развиване на AI и опасността, която технологията може да съставлява за човечеството. Поставил си е цел, само че тя не е толкоз ясна към момента. Разговаряме в ефира ни с футуролога Мариана Тодорова. Наблюдавайки работата му през годините по какъв начин може да чакаме Илон Мъск да противодейства?
Всъщност той направи няколко противопоставяния. Първото е, че свика една петиция, в която притегли доста звезди, които основават изкуствен интелект. Включиха се над 3000 водачи на мнение по тази тематика през март. Това е и момента, когато Мъск изиска пауза. И в действителност тогава още веднъж мненията бяха разграничени на две. Някои смятаха, че това негово искане е, тъй като в действителност е угрижен и ние занапред, мисля че още края на тази година ще можем да създадем една рекапитулация и да забележим какви са резултатите във всички области. А други смятаха, че е изгубил самодейността и печели време, с цел да сътвори лична компания. Вероятно и двете аргументи са като част от неговата мотивация. А това, което той декларира за новата компания, е първо, в действителност да разбираем тайните на Вселената и да спечелим конкурентно преимущество по отношение на всичко, което е правено досега, тъй като ще имаме по-голяма изясненост. Другото е да се избегнат минусите, които доста ясно към този момент се видяха при OpenAI, при ChatGPT - да се продуцират подправени вести, той да халюцинира, данни, които не са правилни. Но това е част от метода, по който работи технологията. А въпросът е следният, че няма все още сполучлив модел, в който ние да можем да кодифицираме, т.е. да създадем код на това кое е истина, кое не. Защото самото човечество няма консенсус във връзка с доста исторически обстоятелства във връзка с действителността, и дори истинността им.
Точно по този начин, да.
Впредаването " Сценарий от бъдещето " с Ива Дойчнова доста постоянно беседваме за това, че ние към този момент живеем във време, в което всичко е течно, флуидно и конструирано, и обстоятелствата, интерпретациите се конструират съгласно удобството, моментната обстановка, и даже към този момент и на нас ни е мъчно да изградим мнение за това кое е истина или не. А изкуственият разсъдък почива на този феномен. Когато аз видя някаква странна и спорна фотография, първото нещо, което към този момент върша, е не да проучвам нейното наличие и какво обръщение носи, както и да ревизира дали е истина. Същото се отнася и за новините. По същия метод реагирах и когато разбрах, че Илън Мъск провокира на дуел Марк Зукърбърг, и смятах, че това е безусловно подправена вест, само че се оказа, че това е идващият негов ход, с който той търси PR за себе си, международно внимание и блян да парира упоритостите на Марк Зукърбърг да сътвори различна на Twitter медия – Threads, която макар неговите старания, той не съумя да я спре, и знам, че към днешна дата към този момент има към 70 милиона дейни консуматори. Т.е. Илън Мъск осъзнава своята мощ, той неведнъж е променял валутни курсове на криптовалути, ползвайки умря на Джордж Сорос, който беше упрекван дълго време, че е влияел върху английската лира. И доста постоянно със свои изявления той е успявал даже да повлияе на стопански сили, финансов бранш. Сега също се пробва да сменя трендовете, само че това като цяло основава една лекомисленост и девалвира отношението към сходно персони, към това по какъв начин към днешна дата се гради визионерство, водачество, не единствено политическо, и икономическо.
И може би неговата цел да търси истината наподобява доста сложна, така се появява едно възприятие от ден на ден за недействителност, за неистина в това, което виждаме.
Да, и в действителност той ясно осъзнава, че това стартира да тревожи хората, защото губим критериите за правота и това много сe укрепва от самите технологии, от изкуствения разсъдък, и знае, че това би се възприело сносно, че рано или късно човечеството ще осъзнае, че тъкмо от това има потребност – да употребяваме тази технология, само че да премахнем онази нейна част, която в действителност унищожава истината, унищожава експертизата. Също по този начин връща мнението на престижите и основава свят, който е постоянен, само че не подобен, който към този момент ние не знаем в действителност дадена история дали е написана от изкуствен интелект или е същинска история, която се е случила. Друг образец, който аз давах при Ива, беше, че защото Северна Македония, нашите съседка, е много по-активна с пропагандно желание да основава историческо наличие, защото данните чисто количествено за историята на тази страна преобладават, когато питаме ChatGPT, изключително на британски за исторически факт, обвързван с нашата обща история, интерпретацията е в интерес на Северна Македония. Не тъй като той желае предумишлено да лъже, а просто тъй като количеството данни, на които е подготвен на британски са повече основани от северномакедонски историци. И в действителност виждаме нещо, което не е предумишлено при самата технология, единствено поради скупчването на избрани данни по какъв начин изкривява историческата истина.
И по тази причина в действителност, още веднъж като визионер и пълководец Мъск напипва доста сензитивно и значима тематика. Но в действителност е доста мъчно това да се реализира към този миг, само че пък не пречи той да пробва и да притегли най-блестящите мозъци, с които може би до година-две ще успее да реализира своята цел.
Говорейки си с теб за подозренията в истинността на обещано изображение, на някаква вест и на каквото и да е било към този момент в днешно време, вършим плавния преход към другата тематика, която ще обсъдим в идващия сегмент, а точно почналите процеси на американските управляващи против OpenAI. Федералната комерсиална комисия на Съединени американски щати стартира следствие на компанията OpenAI, която сътвори чат-бота ChatGPT. От комисията считат, че чат-ботът на компанията може да е нарушил законите за отбрана на потребителите, като е изложила персонална известност и данни на риск. Ходът бележи най-силната може би регулаторна опасност за подкрепени от Microsoft стартъп, който даде началото на фикс идея към генеративния изкуствен интелект, увличайки потребителите и бизнеса, само че и пораждайки опасения за евентуалните опасности. Затова си приказваме в идващите минути с футуролога Мариана Тодорова. В риск ли са персоналните ни данни?
Да, в риск са, въпреки че ние нямаме към момента безапелационни доказателства, че OpenAI употребява чувствителни данни, т.е. тези, които разкриват информация, за която ние не бихме желали да споделим. Но още когато беше разгласен продуктът през края на ноември предходната година доста експерти, които се занимават със софтуерно инженерство, смятаха тогава, че защото е извънредно добър и прецизен ChatGPT 3 и по-късно ChatGPT 4, смятаха, че са употребявани повече данни от тези, които компанията разгласи. Какво значи това? Че най-вероятно той е квалифициран освен на цялата налична информация в интернет и " Уикипедия “ до септември 2021 година, само че евентуално би могъл да бъде също по този начин подготвен на доста специфики и данни, които са употребяват от имейли, персонална връзка, профили във " Facebook “ – това, за което беше упрекната " Кеймбридж Аналитика " преди няколко години по тази причина, че дотолкоз се е намесила на американските избори, че е помогнала на Тръмп да завоюва изборите. Ние нямаме доказателство за това.
Вероятно това ще бъде един от резултатите, които ще се проверяват, само че съгласно мен повода за тези недоволства и самосезирането на комисията след тях, е друга. И в действителност тук ни се разкрива един огромен абсурд, и той се състои в това, че комисията цели да отбрани правата на потребителите, само че в действителност като че ли липсва разбирането или най-малко, че първо това би трябвало да бъде обяснено, че самият ChatGPT3, този огромен езиков модел, генеративен модел работи по този начин, че неизбежно да има изкривявания, подправена информация, просто тъй като правилата, на които той е квалифициран, работят по този начин. И в този момент ще обясня какво имам поради.
Това се назовава " равнене с потребителите “ – alignment. За това е огромен въпросът, с който се занимават освен самите инженери, само че и философи, футуролози като мен. Т.е. той е квалифициран по този начин, че постоянно да откри някакъв метод да отговори на запитването, т.е. постоянно да удовлетвори потребителя.
Т.е. потребителите лъжат, и той лъже, в случай че мога по този начин да кажа.
Това е по този начин, тъй като изкуственият разсъдък доста постоянно отразява нашите предубеждения, защото ние имаме расистки предубеждения и полови предубеждения – неведнъж сме дискутирали, че изкуственият разсъдък също когато сортира фрагменти посредством HR платформи или когато търси нарушители демонстрира тези предубеждения. Но в тази ситуация тук имаме нещо друго: Желанието, стремежът, т.е. задачата, на която е теоретичен този изкуствен интелект, е постоянно да даде отговор. Този отговор постоянно се дава на правилото на действието на най-хубавата асоциация. Той е подготвен да търси най-хубавата асоциация на всяка една дума, на която е запитан. Ако ние питаме: Какво ще е времето на следващия ден, той ще търси асоциация на всяка една дума поотделно, само че и на всички дружно. Обяснявам това, тъй като когато аз питах за една публикацията, касаеща епигенетиката – това е просвета, която потвърди, че е нашите гени са трансформират и от живота, средата, а освен това, което сме наследили, той ми цитир публикация в списание " Nature “, която не съществува. И в случай че аз не бях проверила, щях да бъда подведена и да изложа моя престиж като академик, просто тъй като щях да съм се предоверила. Но това не е предумишлено, той просто е намерил асоциация на моето записване в скупчване от думи и си е измислил, халюцинирал тази несъществуваща публикация.
Както се беше случило и с един юрист, който се беше предоверил за едно дело на ChatGPT, вие го коментирахте с Ива скоро в предаването.
Точно по този начин.
Юрист, който се беше предоверил на информацията, която му даде ChatGPT.
Това щях да дам като идващ образец, само че благодаря, че ти ме подсещаш и го даде. Много постоянно това се случва и с рекомендации за диети, рекомендации по какъв начин да влагаме своята пари, само че това не е предумишлено. Този изкуствен интелект към момента няма схващане и той не цели да манипулира, просто механизмът, по който той е конструиран, е постоянно да дава най-хубавия отговор. И в 90% от случаите отговорът в действителност е доста добър и е ослепителен, само че постоянно се демонстрират такива пукнатини. Именно това е слабото звено, което евентуално е ощетило доста консуматори, които са се доверили за финансови препоръки, за здравни препоръки, за препоръки по отношение на храната, нутриционизма и персонално здраве и какво ли още не. И несъмнено, те са в правото си да сезират комисията и да диря твоите права по правосъден метод. Но това е огромният абсурд: Самата технология не е отговорна, просто тъй като тя е в стадий на рационализиране, и няма по какъв начин да се развие и да се усъвършенства без да работи и в ход да се отстранят тези недостатъци. От друга страна обаче, тези недостатъци са задоволително съществени и могат да нанесат съществени вреди. От трета страна, ние ще съдим, в тази ситуация комисията евентуално ще провокира и дело, и правосъден развой без да има авансово основана регулаторна рамка за това.
Точно по този начин. Предлагам ти да си поговорим за това точно за регулаторния надзор върху технологията, която знаем, че може да промени метода, по който работят обществата и бизнеса, която към този момент ги трансформира. Докато конкуренцията за създаване на по-мощни услуги с изкуствени разсъдък се форсира, пораства несъмнено и нуждата от регулаторния надзор върху самата технология. Марияна, съгласно теб на какво би трябвало да се обърне внимание през днешния ден и какво е належащо да се предприеме?
Ние сме окончателно закъснели във връзка с регулаторните рамки, от едната страна. От друга страна аз съм в скептична, че ще можем посредством подобаващи закони да обхванем всички недостатъци, които занапред ще виждаме като влияние от изкуствения разсъдък. Защото знаем, че в Америка демокрацията действа, тъй че всички за търсят своите права за всичко, и това е и механизъм за доста добър коректив, само че от време на време и опортюнистите се възползват от това. Да речем, че евентуално стотици хора са сезирали комисията, която дискутираме, по разнообразни проблеми, и те ще заведат каузи, само че тука някой от тях евентуално ще бъдат завоюва, други не, тъй като в тази ситуация с юриста, който цитирахме, съгласно законодателството на щата Ню Йорк, всеки, който цитира някакви проблеми и каузи, защото там правото е прецедентно, би трябвало да ги е прочел. Съответният юрист не ги е прочел, тъй като те е не са истина, просто той се е предоверил на изкуствения разсъдък. Какво биха могли да създадат 2 000 публицисти, които бяха освободени от Bild, тъй като просто основават наличие, и това към този момент се прави от такива генеративни модели на изкуствен интелект – биха могли също по този начин да заведат дело, че са освободени непозволено.
Също по този начин хора, които са питали изкуствения разсъдък за здравния статус и са подхванали някакви решения и дейности, които в последна сметка се увредили тяхното здраве, само че това демонстрира, че ние имаме потребност освен от регулация, само че и от нов вид просвещение, което в действителност ще е доста належащо и цифрова просветеност също по този начин – по какъв начин да работим и да разбираме изкуствения разсъдък, и кое да одобряваме като достоверна информация, по какъв начин да ревизираме. Т.е. ние в действителност сме доста улеснени от това, че в синтезиран тип получаваме доста информация, само че постоянно би трябвало да знаем, че тя може да е подправена. Но това са проблемите с безработицата, с подправената информация, с това, че можем да бъдем склонени към нездравословни избори за нас, са ясните неща.
Как обаче можем да контролираме обстоятелството, че изкуственият разсъдък още следващата година в Америка ще се употребява като част от пропагандата машина за провеждането на новите избори, и чат-ботовете ще заменят човешката тролове. И в действителност от метода, по който тези истории ще бъдат публикувани, изпратени на консуматори в техните обществени медии, в случай че те са написани добре, безапелационно, те биха могли да преобърнат резултатите за изборите. Това може ли да се контролира правно? Все още не. Коментирахме го с Ива Дойчинова - потреблението на чат-ботове в чувствителни акции и материали, само че това също е мъчно доказуемо, защото не е създаден програмен продукт, който да каже, че нещо е основано от ChatGPT. Вероятно до една-две години ще го има. Но до момента в който съществува тази празнина, доста хора биха могли да се възползват. То всичко се случва толкоз бързо, че е резултатите на едно събитие въздействат върху неговите аргументи и го променят изначално, и преди аргументите да се случили, резултатите към този момент изкривяват случая.
Може би по тази причина паузата, за която въпреки всичко Илон Мъск прикани, щеше да е потребна в този случай, просто тъй като имае потребност да осмислим или най-малко да следим, да спечелим време да забележим какво се случва на всички места, и кое вреди дотолкоз, че в действителност да би трябвало да бъде спряно и контролирано. Но въпреки всичко етиката изисква да кажем, че в редица други области, непрестанно аз проследявам всеки ден, изключително в медицината излизат доста данни за опцията да проследим рак на панкреаса, тъй че той да стане лечим. В момента 80% от случаите са с летален излаз.
И напълно на финала, в случай че може да обобщим с теб този диалог.
Важното е това, което ние можем да създадем, всеки един от нас, преди да чакаме отбрана от правосъдната система или от решението на обособените национални страни, е да употребяваме и да познаваме технологията. Защото изкуственият разсъдък ще бъде неизбежна част от нашия живот за в бъдеще желаеме или не желаеме това, само че би трябвало да имаме персоналната мотивация да се самообразоваме всеки ден, за това ползвайки я, по какъв начин можем да надградим своето мнение, да спестим доста време, в това число и това, че изкуственият разсъдък би могъл да помогне работната седмица да е четири дни, тъй като покачва успеваемостта. Но в същото време да сме наясно, че не всичко е такова, каквото наподобява, че би трябвало да ревизираме, че би трябвало да запазим своите старания да четем източниците и да не се предоверяваме на сляпо. Това можем да създадем преди тези по-тромави законодателни машини и решения на националните страни да се задействат и да намерят решение на тези проблеми.
Източник: varna24.bg
КОМЕНТАРИ