Мариана Тодорова: Ключови играчи не си дават сметка какво имаме
Ако ние към този момент не разбираме технологията на генеративния изкуствен интелект напълно, по какъв начин ще можем, когато тя се усложни и стигнем до общ изкуствен интелект? Ние нямаме грамотността да употребяваме към този момент постигнатото и потенциала дотук, което от една страна е добре, тъй като забавя целия развой, печели ни време и ни прави по-подготвени, само че въпреки това е плашещо, тъй като демонстрира, че към момента даже основни играчи не си дават сметка какво имаме. Това сподели футурологът доцент доктор Мариана Тодорова в предаването " България, Европа и светът на фокус “ на Радио " Фокус “ .
Тя разяснява изказаните от Сам Алтман на форума в Давос терзания по отношение на развиването и опциите на общия изкуствен интелект.
Футурологът изясни, че генеративният изкуствен интелект е граничен, тъй като надскача опциите на тесния изкуствен интелект. Той е подготвен на голям брой езикови параметри, имитира разсъждения, води разговор, дава решения и даже е по-креативен от хората. Общият изкуствен интелект би имал някакъв вид съзнание и би могъл да разсъждава независимо като обособена единица, би имал воля, би взимал решения, което е много рисково.
" В момента ми се коства, че цялата картина съставлява един безпорядък и една бурност, в която водещите играчи – политици, разработчици, учени, притежатели на компании, си трансферират един " парещ картоф “ и никой не желае да го задържи в ръцете си. Същевременно те знаят, че този " парещ картоф “ е най-важният залог за бъдещето на триумфа на обособените национални страни и на фирмите. Въпросът за контрола не се състои единствено в това дали ние имаме воля да направляваме изкуствения разсъдък, не касае единствено това, че в случай че има тежки регулации, ще спрем неговото развиване, а и това дали е допустимо този вид комплицирана технология, която ще се трансформира в същина, да бъде следена, първо чисто механически “, разяснява доцент Мариана Тодорова.
Тя разясни, че архитектурата на създаваните невронни мрежи е такава, че ние не можем да забележим в цялост и в комплексност какво се случва в тях. Те съставляват самобитна " черна “ кутия, сходна на нашия мозък. " Не можем да създадем критерии за правота, които общият изкуствен интелект да извършва, тъй като нашите данни нямат такива. Не можем да кодифицираме морал, тъй като няма един повсеместен. Не можем да изградим механизъм против халюцинациите и предразсъдъците. “
Доц. Тодорова разяснява и поръчката на Сам Алтман, че OpenAI скоро ще пусне ChatGPT 5.
" Ние към момента не сме видели в цялост проявлението и всеобщата приложимост на ChatGPT 4 и въобще на поколението 4, което е мултимодално. Те го демонстрираха в демонстрационните версии, употребява се, само че отчасти. Т.е. в случай че желаеме да забележим надграждане над този модел и решение на комплицирани математически задания – нещо, по което те споделят, че ще се отличава от всички останали, би трябвало да забележим предходните. Или имат пробив с Q*, което стана мотивът за оставката на Алтман, или просто декларират място на терена, както Бил Гейтс и всички други вършат “, съобщи тя.
Една от тематиките, които Алтман също визира на форума в Давос, е опцията изкуственият разсъдък да окаже въздействие върху резултатите от идните избори в Съединени американски щати. " През 2016 година благодарение на логаритмите и общителното подпомагане на " Facebook “, което те отхвърлят, само че не би могло да се случи без някакъв непълен достъп, имаше профилиране на милиони консуматори предвид на техните политически желания. Сега, когато това е допустимо и може да се насочват персонализирани послания, езиково и образно наличие по отношение на всеки един, когато могат да се употребяват истории, основани от генеративен изкуствен интелект, вместо човешки " тролове “, и най-много когато има толкоз безапелационни видеа и подправени вести, които някои хора могат да употребяват, с цел да реализиран някакви внушения, има доста повече благоприятни условия за въздействие “, уточни доцент Тодорова.
Тя разяснява изказаните от Сам Алтман на форума в Давос терзания по отношение на развиването и опциите на общия изкуствен интелект.
Футурологът изясни, че генеративният изкуствен интелект е граничен, тъй като надскача опциите на тесния изкуствен интелект. Той е подготвен на голям брой езикови параметри, имитира разсъждения, води разговор, дава решения и даже е по-креативен от хората. Общият изкуствен интелект би имал някакъв вид съзнание и би могъл да разсъждава независимо като обособена единица, би имал воля, би взимал решения, което е много рисково.
" В момента ми се коства, че цялата картина съставлява един безпорядък и една бурност, в която водещите играчи – политици, разработчици, учени, притежатели на компании, си трансферират един " парещ картоф “ и никой не желае да го задържи в ръцете си. Същевременно те знаят, че този " парещ картоф “ е най-важният залог за бъдещето на триумфа на обособените национални страни и на фирмите. Въпросът за контрола не се състои единствено в това дали ние имаме воля да направляваме изкуствения разсъдък, не касае единствено това, че в случай че има тежки регулации, ще спрем неговото развиване, а и това дали е допустимо този вид комплицирана технология, която ще се трансформира в същина, да бъде следена, първо чисто механически “, разяснява доцент Мариана Тодорова.
Тя разясни, че архитектурата на създаваните невронни мрежи е такава, че ние не можем да забележим в цялост и в комплексност какво се случва в тях. Те съставляват самобитна " черна “ кутия, сходна на нашия мозък. " Не можем да създадем критерии за правота, които общият изкуствен интелект да извършва, тъй като нашите данни нямат такива. Не можем да кодифицираме морал, тъй като няма един повсеместен. Не можем да изградим механизъм против халюцинациите и предразсъдъците. “
Доц. Тодорова разяснява и поръчката на Сам Алтман, че OpenAI скоро ще пусне ChatGPT 5.
" Ние към момента не сме видели в цялост проявлението и всеобщата приложимост на ChatGPT 4 и въобще на поколението 4, което е мултимодално. Те го демонстрираха в демонстрационните версии, употребява се, само че отчасти. Т.е. в случай че желаеме да забележим надграждане над този модел и решение на комплицирани математически задания – нещо, по което те споделят, че ще се отличава от всички останали, би трябвало да забележим предходните. Или имат пробив с Q*, което стана мотивът за оставката на Алтман, или просто декларират място на терена, както Бил Гейтс и всички други вършат “, съобщи тя.
Една от тематиките, които Алтман също визира на форума в Давос, е опцията изкуственият разсъдък да окаже въздействие върху резултатите от идните избори в Съединени американски щати. " През 2016 година благодарение на логаритмите и общителното подпомагане на " Facebook “, което те отхвърлят, само че не би могло да се случи без някакъв непълен достъп, имаше профилиране на милиони консуматори предвид на техните политически желания. Сега, когато това е допустимо и може да се насочват персонализирани послания, езиково и образно наличие по отношение на всеки един, когато могат да се употребяват истории, основани от генеративен изкуствен интелект, вместо човешки " тролове “, и най-много когато има толкоз безапелационни видеа и подправени вести, които някои хора могат да употребяват, с цел да реализиран някакви внушения, има доста повече благоприятни условия за въздействие “, уточни доцент Тодорова.
Източник: varna24.bg
КОМЕНТАРИ