Методът ни за изграждане на AI може би е погрешен
Най-новите проучвания демонстрират, че езикът не е същото като просветеност. Целият AI балон е построен върху пренебрегването на този факт
" Развитието на суперинтелигентност към този момент е в полезрението ни ", съобщи наскоро Марк Зукърбърг, предвещавайки " основаването и откриването на нови неща, които през днешния ден даже не можем да си представим ". Мощен AI " може да се появи още през 2026 година и да бъде по-умен от притежател на Нобелова премия в множеството значими области ", казва Дарио Амодеи, предлагайки удвояване на човешката дълготрайност на живота или даже реализиране на величие. " Вече сме уверени, че знаем по какъв начин да изградим AGI ", казва Сам Алтман за свещения граал на промишлеността - изкуствен интелект с общи качества. По думите му напълно скоро суперинтелигентен AI " може фрапантно да форсира научните открития и нововъведения надалеч оттатък това, което сме способни да създадем сами ".
Най-богатите и авторитетни софтуерни водачи наподобяват единомислещи. Трябва ли да им имаме вяра? Не, в случай че се доверим на науката за човешката просветеност и просто погледнем AI системите, които фирмите им са произвели до момента.
Общото сред чатботовете като ChatGPT на OpenAI, Claude на Anthropic, Gemini на Гугъл и Llama на Meta, е че всички те са на първо място " огромни езикови модели " или LLMs. Те се основават на събирането на голямо количество езикови данни (най-вече от интернет), намирането на статистически зависимости сред думите (по-точно поддуми, наречени " токени " ) и предсказването на излаз, който следва даден промпт.
Въпреки цялата им хипотетична трудност, в основата си това са модели на езика, написа създателят на Cognitive Resonance Бенджамин Райли в публикация за .
Проблемът е, че съгласно актуалната невронаука човешкото мислене значително е независимо от езика - и няма съображение да имаме вяра, че все по-сложното моделиране на езика ще сътвори форма на просветеност, която се равнява или надминава нашата.
Хората употребяват езика, с цел да споделят резултатите от способността си да разсъждават, да образуват абстракции и да вършат систематизирания - това, което назоваваме просветеност. Ние използваме езика, с цел да мислим, само че това не значи, че езикът е мисъл. Разбирането на тази разлика е ключът към разграничаването на научния факт от научнофантастичната нечиста сделка на софтуерните милиардери, възторжени от AI и AGI.
Ако прегледате новините от последните 2 години елементарно ще откриете мантрата им. Техно-милиардерите и най-елитните им чиновници непрекъснато повтарят, че сме на прага да създадем нещо толкоз интелигентно, колкото хората, или даже " суперинтелигентност ", която ще засенчи нашите когнитивни качества. И всичко това е постижимо, стига да съберем тонове данни за света и ги комбинираме с все по-мощни изчислителни запаси (чипове на Nvidia), тогава - хоп - ще имаме същински общ изкуствен интелект. Като този от филмите! Нужно е единствено мащабиране.
Но тази доктрина почива на неверен пиедестал. LLM са просто принадлежности, които имитират отзивчивата функционалност на езика, а не обособения и друг когнитивен развой на мислене и размишление, без значение какъв брой центрове за данни ще построим.
Езикът не е мисъл
Миналата година трима учени разгласиха в списание Nature публикация, озаглавена напълно ясно: " Езикът е най-вече инструмент за връзка, а не за мислене. "
В нея Евелина Федоренко (MIT), Стивън Т. Пиантандоси (UC Berkeley) и Едуард Гибсън (MIT) обобщават десетилетия научни проучвания за връзката сред език и мисъл. Те опровергават концепцията, че езикът поражда нашата дарба да мислим и разсъждаваме, и акцентират, че езикът е културен инструмент за шерване на мисли.
Ако езикът беше нужен за мисленето, тогава неналичието на език би трябвало да отстранява способността да мислим. Но това не се случва.
Първо, fMRI проучвания ясно демонстрират, че когато решаваме задания — да вземем за пример математически проблем или разбираме непознати планове — задействат се разнообразни елементи на мозъка, разнообразни от езиковите области.
Второ, хора с добити езикови увреждания резервират способността си да разсъждават, да следват невербални указания, да вземат решение задания и да схващат причинно-следствени връзки. Доказателствата са безапелационни.
И в случай че желаеме всекидневен образец - бебетата мислят доста преди да проговорят. Те опитват, проучват, изследват - изцяло без език.
Езикът е единствено един аспект от човешкото мислене. Интелигентността ни е най-вече нелингвистична. Тогава за какво толкоз доста хора имат вяра, че езикът е мисъл?
Езикът като инструмент за шерване
Втората теза в публикацията е, че езикът е " ефикасен информационен код ". Хората, без значение от културата, развиват езици, които са лесни за потребление, за научаване и са устойчиви на звук. Така езикът става " когнитивен инструмент ", който ни разрешава да предаваме познания с невероятна акуратност и успеваемост — както написа когнитивния академик Сесилия Хейс.
Тоест езикът усъвършенства съзнателността ни, само че не я основава.
Отнемете езика на човек - той продължава да мисли и усеща.
Отнемете езика на огромен езиков модел - и от него не остава безусловно нищо.
Дори AI промишлеността признава рестриктивните мерки
Някои AI откриватели към този момент подлагат на критика LLM.
Ян Лекун, притежател на премията " Тюринг ", напусна Meta, с цел да създава " светови модели " - системи, които схващат физическия свят, имат памет и дарба за обмисляне.
Група водещи учени, в това число Йошуа Бенджио и Ерик Шмит, оферират формулировка за AGI като " AI, който може да се съпоставя или надминава когнитивната еластичност и умения на просветен възрастен ". Те отхвърлят концепцията за просветеност като една-единствена дарба и оферират модел от голям брой обособени, разнообразни умения.
Но пораждат въпроси:
Как да комбинираме тези качества? Какво тежест има всяка? Какво въобще значи " познание " или " скорост " в разнообразни контексти?
И най-много - даже да реализираме тази паяжина от качества, това подсигурява ли същинска просветеност?
Интелигентност ≠ струпване на данни
Дори в случай че AI доближи човешкото равнище във всички измерими когнитивни области, това не значи, че ще прави огромните интелектуални скокове, които хората вършат.
Томас Кун разказва по какъв начин научните парадигми се трансформират посредством нови хрумвания, които не се вписват в актуалните. А Ричард Рорти твърди, че напредъкът се случва, когато сътворяваме нови метафори - нови описания на света.
AI, който се основава напълно на наличните данни, няма причина да бъде " неудовлетворен " от тях или да търси нови парадигми. То може единствено да рециклира съществуващите описания.
Най-вероятният резултат е система, която събира и подрежда човешкото общо познание - само че не и такава, която генерира същински нови хрумвания. Машина на " мъртвите метафори ".
И по този начин, хората - мислещи, разсъждаващи и употребяващи езика, с цел да споделят мисли - ще останат водещата мощ в разбирането и пресъздаването на света.
Тази мисъл вероятно ви успокоява. Но точно вероятността AGI да не се трансформира в откривателя на нови хрумвания е най-големият призрачен сън за цяла група от авторитетни техно-утописти. И бъдете сигурни, че те ще продължат да наливат милиарди в опит за превъзмогването на тази спънка. Те биха заменили с лекост огромните езикови модели, в случай че друга прохождаща технология им се стори по-обещаваща за мечтаната от тях технологична сингулярност.
" Развитието на суперинтелигентност към този момент е в полезрението ни ", съобщи наскоро Марк Зукърбърг, предвещавайки " основаването и откриването на нови неща, които през днешния ден даже не можем да си представим ". Мощен AI " може да се появи още през 2026 година и да бъде по-умен от притежател на Нобелова премия в множеството значими области ", казва Дарио Амодеи, предлагайки удвояване на човешката дълготрайност на живота или даже реализиране на величие. " Вече сме уверени, че знаем по какъв начин да изградим AGI ", казва Сам Алтман за свещения граал на промишлеността - изкуствен интелект с общи качества. По думите му напълно скоро суперинтелигентен AI " може фрапантно да форсира научните открития и нововъведения надалеч оттатък това, което сме способни да създадем сами ".
Най-богатите и авторитетни софтуерни водачи наподобяват единомислещи. Трябва ли да им имаме вяра? Не, в случай че се доверим на науката за човешката просветеност и просто погледнем AI системите, които фирмите им са произвели до момента.
Общото сред чатботовете като ChatGPT на OpenAI, Claude на Anthropic, Gemini на Гугъл и Llama на Meta, е че всички те са на първо място " огромни езикови модели " или LLMs. Те се основават на събирането на голямо количество езикови данни (най-вече от интернет), намирането на статистически зависимости сред думите (по-точно поддуми, наречени " токени " ) и предсказването на излаз, който следва даден промпт.
Въпреки цялата им хипотетична трудност, в основата си това са модели на езика, написа създателят на Cognitive Resonance Бенджамин Райли в публикация за .
Проблемът е, че съгласно актуалната невронаука човешкото мислене значително е независимо от езика - и няма съображение да имаме вяра, че все по-сложното моделиране на езика ще сътвори форма на просветеност, която се равнява или надминава нашата.
Хората употребяват езика, с цел да споделят резултатите от способността си да разсъждават, да образуват абстракции и да вършат систематизирания - това, което назоваваме просветеност. Ние използваме езика, с цел да мислим, само че това не значи, че езикът е мисъл. Разбирането на тази разлика е ключът към разграничаването на научния факт от научнофантастичната нечиста сделка на софтуерните милиардери, възторжени от AI и AGI.
Ако прегледате новините от последните 2 години елементарно ще откриете мантрата им. Техно-милиардерите и най-елитните им чиновници непрекъснато повтарят, че сме на прага да създадем нещо толкоз интелигентно, колкото хората, или даже " суперинтелигентност ", която ще засенчи нашите когнитивни качества. И всичко това е постижимо, стига да съберем тонове данни за света и ги комбинираме с все по-мощни изчислителни запаси (чипове на Nvidia), тогава - хоп - ще имаме същински общ изкуствен интелект. Като този от филмите! Нужно е единствено мащабиране.
Но тази доктрина почива на неверен пиедестал. LLM са просто принадлежности, които имитират отзивчивата функционалност на езика, а не обособения и друг когнитивен развой на мислене и размишление, без значение какъв брой центрове за данни ще построим.
Езикът не е мисъл
Миналата година трима учени разгласиха в списание Nature публикация, озаглавена напълно ясно: " Езикът е най-вече инструмент за връзка, а не за мислене. "
В нея Евелина Федоренко (MIT), Стивън Т. Пиантандоси (UC Berkeley) и Едуард Гибсън (MIT) обобщават десетилетия научни проучвания за връзката сред език и мисъл. Те опровергават концепцията, че езикът поражда нашата дарба да мислим и разсъждаваме, и акцентират, че езикът е културен инструмент за шерване на мисли.
Ако езикът беше нужен за мисленето, тогава неналичието на език би трябвало да отстранява способността да мислим. Но това не се случва.
Първо, fMRI проучвания ясно демонстрират, че когато решаваме задания — да вземем за пример математически проблем или разбираме непознати планове — задействат се разнообразни елементи на мозъка, разнообразни от езиковите области.
Второ, хора с добити езикови увреждания резервират способността си да разсъждават, да следват невербални указания, да вземат решение задания и да схващат причинно-следствени връзки. Доказателствата са безапелационни.
И в случай че желаеме всекидневен образец - бебетата мислят доста преди да проговорят. Те опитват, проучват, изследват - изцяло без език.
Езикът е единствено един аспект от човешкото мислене. Интелигентността ни е най-вече нелингвистична. Тогава за какво толкоз доста хора имат вяра, че езикът е мисъл?
Езикът като инструмент за шерване
Втората теза в публикацията е, че езикът е " ефикасен информационен код ". Хората, без значение от културата, развиват езици, които са лесни за потребление, за научаване и са устойчиви на звук. Така езикът става " когнитивен инструмент ", който ни разрешава да предаваме познания с невероятна акуратност и успеваемост — както написа когнитивния академик Сесилия Хейс.
Тоест езикът усъвършенства съзнателността ни, само че не я основава.
Отнемете езика на човек - той продължава да мисли и усеща.
Отнемете езика на огромен езиков модел - и от него не остава безусловно нищо.
Дори AI промишлеността признава рестриктивните мерки
Някои AI откриватели към този момент подлагат на критика LLM.
Ян Лекун, притежател на премията " Тюринг ", напусна Meta, с цел да създава " светови модели " - системи, които схващат физическия свят, имат памет и дарба за обмисляне.
Група водещи учени, в това число Йошуа Бенджио и Ерик Шмит, оферират формулировка за AGI като " AI, който може да се съпоставя или надминава когнитивната еластичност и умения на просветен възрастен ". Те отхвърлят концепцията за просветеност като една-единствена дарба и оферират модел от голям брой обособени, разнообразни умения.
Но пораждат въпроси:
Как да комбинираме тези качества? Какво тежест има всяка? Какво въобще значи " познание " или " скорост " в разнообразни контексти?
И най-много - даже да реализираме тази паяжина от качества, това подсигурява ли същинска просветеност?
Интелигентност ≠ струпване на данни
Дори в случай че AI доближи човешкото равнище във всички измерими когнитивни области, това не значи, че ще прави огромните интелектуални скокове, които хората вършат.
Томас Кун разказва по какъв начин научните парадигми се трансформират посредством нови хрумвания, които не се вписват в актуалните. А Ричард Рорти твърди, че напредъкът се случва, когато сътворяваме нови метафори - нови описания на света.
AI, който се основава напълно на наличните данни, няма причина да бъде " неудовлетворен " от тях или да търси нови парадигми. То може единствено да рециклира съществуващите описания.
Най-вероятният резултат е система, която събира и подрежда човешкото общо познание - само че не и такава, която генерира същински нови хрумвания. Машина на " мъртвите метафори ".
И по този начин, хората - мислещи, разсъждаващи и употребяващи езика, с цел да споделят мисли - ще останат водещата мощ в разбирането и пресъздаването на света.
Тази мисъл вероятно ви успокоява. Но точно вероятността AGI да не се трансформира в откривателя на нови хрумвания е най-големият призрачен сън за цяла група от авторитетни техно-утописти. И бъдете сигурни, че те ще продължат да наливат милиарди в опит за превъзмогването на тази спънка. Те биха заменили с лекост огромните езикови модели, в случай че друга прохождаща технология им се стори по-обещаваща за мечтаната от тях технологична сингулярност.
Източник: dnesplus.bg
КОМЕНТАРИ