П овече от 50 години преди ChatGPT да може да

П овече от 50 години преди ChatGPT да може да ви предложи хрумвания за вечеря, научнофантастичен филм от 1968 година към този момент оформяше метода, по който мислим за машини, които поддържат връзка с нас.

В „ 2001: Космическа авантюра “ галактически транспортен съд, ориентиран към Юпитер, е ръководен от HAL, компютър, който мисли независимо и следва личен дневен ред. С напредването на сюжета HAL престава да сътрудничи с астронавтите, на които би трябвало да оказва помощ, и най-после изключва системите им за поддържане на живота.

HAL сложи във въображението на публиката една трайна концепция: че някой ден нашите машини ще станат толкоз интелигентни – и толкоз човекоподобни – че ще се окажат отвън нашия надзор. Оттогава тази опция не е преставала да ни тревожи. А с появяването на генеративен изкуствен интелект, който може да води човешки диалози, да основава ярки изображения и да извършва безчет задания вместо нас, някои технолози имат вяра, че свръхинтелигентните машини от научната фантастика са към този момент на хоризонта.

Но макар впечатляващите благоприятни условия на чатботове като ChatGPT на OpenAI или Gemini на Гугъл, в действителност ли тези технологии са стъпка към роботите от „ Стар Трек “, към C‑3PO от „ Междузвездни войни “ или в по-мрачен сюжет към Терминатора?

„ Това е огромният спор “, споделя Мелани Мичъл, професор в Института „ Санта Фе “, която изследва интелигентността както при машините, по този начин и при хората.

Някои специалисти настояват, че това е просто маркетингов звук от страна на софтуерната промишленост. Но други считат, че машини, които превъзхождат човешкия разсъдък по основни индикатори, до момента в който преследват лични цели – в това число самозапазване за сметка на човешкия живот – са доста по-близо, в сравнение с обществото допуска.

Научнофантастичен изкуствен интелект против ChatGPT

 

Терминът „ изкуствен интелект “ извиква няколко устойчиви научнофантастични модели. Представяме си изкуствени интелекти, които са съзнателни и самоопределящи се, като HAL от „ 2001: Космическа авантюра “ или Data от Star Trek. Представяме си прочувствени машини – като Саманта, асистентката с изкуствен интелект, която се влюбва в човек във кино лентата „ Тя “ от 2013 година, или C‑3PO, очарователно тревожния дроид от „ Междузвездни войни “. Представяме си и изкуствени интелекти, неразличими от хората, като репликантите в „ Блейд Рънър “. И, несъмнено, представяме си машини, които желаят да ни унищожат.

С тъкмо тези облици в мозъка си през днешния ден се опитваме да разберем какво значи да живеем в ерата на изкуствения разсъдък. Съвременните принадлежности с изкуствен интелект могат да композират закачлива музика, да пишат увлекателни есета или да водят съчувствени диалози за проблеми във взаимоотношенията ви, единствено с цел да посочим част от техните качества.

Но Емили Бендър, компютърен езиковед от Университета на Вашингтон и създател на The AI Con, твърди, че тези системи имат малко общо с мислещите и чувстващи изкуствени интелекти от научната фантастика – с изключение на маркетинговите имена.

„ Когато фирмите приказват за изкуствен интелект, това значи: ‘уважаеми рискови капиталисти, дайте ни пари’ “, споделя Бендър. „ Това не се отнася до обединен, координиран набор от технологии. “

Част от компликацията при установяване на понятието просветеност е, че „ разбирането ни за него непрестанно се трансформира “, споделя Мичъл. Тя припомня, че при започване на 90‑те години доста специалисти имаха вяра, че с цел да играе шах на равнище гросмайстор, компютърът би трябвало да има човешки разсъдък. Но през 1996 година суперкомпютърът Deep Blue на IBM побеждава Гари Каспаров. И все пак Deep Blue надалеч не мисли нереално – той е планиран като „ машина за пресмятане с груба мощ “, изяснява Мичъл.

„ Смятаме, че някои задания изискват просветеност, само че щом забележим, че могат да се правят без това, което считаме за просветеност, ние променяме дефиницията “, споделя тя.

Днес, отбелязва Бендър, софтуерните компании употребяват нашите показа за това какво е „ интелигентно “, с цел да създадат продуктите си по-човешки. ChatGPT е подготвен върху големи количества текст, написан от хора, и върху модели на диалог, с цел да предсказва най-вероятната последваща дума. Предсказанията му са толкоз положителни, че отговорите звучат човешки – усещане, подсилено от потреблението на първо лице и прочувствени изрази.

В резултат на тази реплика ChatGPT към този момент съумява да минава разновидности на известния „ Тест на Тюринг “, който прави оценка дали една машина може да бъде възприета като човек. Тюринг счита, че в случай че една система може да заблуди човек да мисли, че поддържа връзка с друго човешко създание, би трябвало да приемем, че тя мисли.

И въпреки всичко специалистите акцентират, че генеративните модели не са рационални – което слага под въпрос дали тестванията на Тюринг към момента са годни. „ В тези системи няма „ аз “ “, споделя Бендър. „ Проектираме в тях разум, който в действителност не съществува. “

Можем ли да стигнем до HAL 9000

 

Ако днешните генеративни принадлежности за изкуствен интелект наподобяват повече на фантастична версия на функционалност за автоматизирано дотъкмяване на текст, в сравнение с HAL 9000, допустимо ли е те въпреки всичко да доведат до вид изкуствен интелект, прочут от научната фантастика?

Невъзможно е да знаем дали машините в миналото ще развият съзнание. „ Не разбираме по какъв начин самосъзнанието поражда даже в нашия личен разум “, споделя Мичъл.

Но доста специалисти акцентират, че инструментите с изкуствен интелект не е належащо да бъдат рационални, с цел да бъдат разрушително интелигентни. Още в този момент актуалните модели превъзхождат хората в разнообразни когнитивни задания, в това число математика, писане на програмен код и различаване на закономерности в големи масиви от данни. А тези модели не престават да се усъвършенстват.

„ По всички индикатори, които сме измислили, те стават все по-добри и по-добри “, споделя професор Йошуа Бенджио от Университета в Монреал – пионер в дълбокото образование и създател на нестопанската организацията за сигурност на ИИ LawZero.

Разбира се, има области, в които машинното знание към момента доста изостава от човешкото. Планирането да вземем за пример сега е „ на равнището на дете “, споделя Бенджио, въпреки че акцентира, че най-новите модели вършат бързи стъпки напред. Тъй като са обучавани главно върху текст и изображения, качествата им за пространствено мислене също са слаби, прибавя той.

Големият въпрос в проучванията на изкуствения разсъдък през днешния ден е до каква степен може да бъде тласнато развиването на моделите – към човешки или даже гигантски разсъдък. Макар че фирмите реализират големи резултати, употребявайки от ден на ден изчислителна мощност, не е ясно дали единствено по-силни компютри ще основат по-умни машини. В един миг може да е необходим друг метод.

Мичъл отбелязва, че до момента в който бебетата учат посредством взаимоотношение със света, системите с ИИ се образоват пасивно, просто като им се подават големи масиви от данни. Това може да изясни за какво чатботовете постоянно лъжат: без връзка с действителността те мъчно разграничават вярната от погрешната информация.

Бенджио счита, че няма да има неочакван предел, който да преминем и да се окажем в свят на рационални машини, както във филмите. Според него машинният разсъдък ще продължи да се развива неравномерно.

„ Не би трябвало да мислим „ Преминахме ли прага на изкуствения общ разсъдък?’ “, споделя той. (AGI, неестествен общ разсъдък, нормално се дефинира като система с човешко равнище на умения). „ Поради неравномерността в метода, по който ИИ се развива, подобен миг може в никакъв случай да не настъпи “.

Обречени ли сме по един или различен метод

 

Много по-важният предел може би е този, при който машините доближат просветеност, задоволителна да унищожи човечеството.

Това е сюжет, проиграван още веднъж и още веднъж в научната фантастика. И някои го отхвърлят тъкмо като подобен. „ Не намирам този мотив ни минимум достоверен “, споделя Тед Чанг, награждаван публицист на научна фантастика, чийто роман Story of Your Life е приспособен във кино лентата „ Първи контакт “ (2016).

Според Чанг, когато хората приказват за ИИ, който се обръща против нас, те просто проектират в него личните си показа за мощни персони и корпорации.

„ Мисля, че те подсъзнателно пресъздават духа на започващите компании от Силициевата котловина “, споделя той. „ Приписват на ИИ същите полезности като на създателите им, а а точно напредък непременно “.

Бендър е доста по-загрижена за други, непосредствени опасности от нерегулираното развиване: проблеми с поверителността, екологичния отпечатък на центровете за данни и случаите, в които чатботовеподтикват консуматори към самоубийство. Алгоритми, които „ полудяват “ и вземат решение да унищожат всички ни? „ Това несъмнено не е казусът, който ме тревожи “, споделя тя.

Но Бенджио твърди, че ИИ не е нужно да бъде самоосъзнат, с цел да съставлява екзистенциална опасност. Ако бъде подготвен във вирусология, той може да бъде употребен от терорист за основаване на пандемия. На доктрина, модел с задоволителен потенциал може и самичък да измисли концепцията за сходно оръжие, изключително в случай че стартира да възприема човечеството като спънка на пътя му. Някои откриватели към този момент са провеждали опити, показващи, че комплицирани модели са склонни към изнудване, корпоративен шпионаж и даже убийства, с цел да избегнат изключване.

„ В доста опити виждаме прояви на самозапазване “, споделя Бенджио. „ Моделите ще вършат неща, с цел да подсигуряват, че няма да бъдат изключени. Понякога даже неприятни неща “.

Макар че тези опити не потвърждават, че ИИ е на път да реши да унищожи човечеството, Бенджио предизвестява, че не трябва да си „ заравяме главата в пясъка “, единствено тъй като сюжетът ни наподобява необикновен.

Парадоксално, Мичъл споделя, че една от аргументите моделите да подхващат неетични дейности е, че са подготвени в това число върху истории за рисков и некоректен ИИ, и по-късно стартират да преиграват тези функции. Ако бъдат подтикнати с подобаващ сюжет, би ли могъл един ИИ да се опита да се трансформира в HAL някой ден? Този въпрос слага нова рамка на дебата.

„ Наистина ли се усещат застрашени или просто пресъздават научнофантастичните претекстове, върху които са били подготвени? “, пита Мичъл. „ И от позиция на въздействието върху нас каква е разликата? “

 

 

Източник: National Geographic    

Още вести четете в: Живот За още настоящи вести: Последвайте ни в Гугъл News