Как ИИ може да превземе света за 2 години
Не съм вещател по природа. Но част от работата ми като откривател на сигурността на изкуствения разсъдък е да мисля за по-тревожните сюжети. Приличам на монтьор, който прави инспекции в последната минута преди излитането на „ Аполо 13 “. Ако ме попитате за мнението ми за обстановката, няма да разясня качеството на развлеченията по време на полет или да разказвам какъв брой красиви ще наподобяват звездите от космоса.
Ще ви кажа какво може да се обърка. Именно това имам намерение да направя в тази история. Сега би трябвало да поясня какво тъкмо съставлява тя. Това не е предсказване. Не чакам напредъкът на ИИ да бъде толкоз бърз или толкоз неумирим, колкото го представям. Не е и чиста фикция. Това е най-лошият ми кошмар…
Разказвам тази история, тъй като бъдещето към момента не е несъмнено. Надявам се, че с малко предвидливост ще успеем да запазим тази история като измислена…
Вълни преди цунами
Годината е 2025, а месецът е февруари. Компанията OpenEye неотдавна разгласява нов модел на изкуствен интелект, който назовава U2. Продуктът и името си наподобяват. И двете имат предистория. И двете не са цялостна изненада. За разлика от предходните артикули на OpenEye за изкуствен интелект обаче, които живееха в кутиите на своите чат-прозорци, U2 може да употребява компютър.
На някои консуматори може да им се коства необичайно да следят по какъв начин браузърът им мига на неравномерни шпации, а мишката се движи с нечовешка скорост, като че ли на клавиатурата има фантом. Част от чиновниците, чиято задача е да попълнят формуляри, към този момент втрещяват началниците си с два пъти по-висока скорост на работата. Но като цяло U2 към момента е профилиран инструмент. За множеството, които обръщат внимание, той е създание, следено през стъклените кутии на Х (или, в случай че не харесвате Илон, „ Туитър “). Понякога странното държание на U2 провокира смях. Понякога обаче те кара неспокойно да се чешеш по брадичката.
Тенденция, на която се обръща изключително внимание, е самостоятелната дарба. Учени предвиждат, че до края на 2026 година изкуственият разсъдък ще реализира за няколко дни това, което най-хубавите софтуерни инженери биха могли да създадат за две седмици. Според някои до една-две години ИИ може да автоматизира 10% от работата, осъществявана от работещи от отдалеченост чиновници.
Мнозина са скептично настроени. Ако това беше правилно, настояват те, акциите на софтуерните компании щяха да излетят в небесата. Това е прекомерно огромен и прекомерно бърз скок. Но други преглеждат това, което скептиците назовават „ прекомерно огромен удар “, като елементарна вълна и виждат на хоризонта да се задава същинско цунами.
Облачно с късмет за хиперболичен напредък
Междувременно OpenEye се занимава с образованието на U3. Те употребяват същата елементарна рецепта, по която е изпечен U2: генерират хиляди задания по програмиране и математика. Оставят моделите да „ мислят “, до момента в който стигнат до отговор. След това затвърждават следите от „ мисленето “, които водят до отлични оценки.
Този развой се повтаря още веднъж и още веднъж и откакто маховикът се задвижи, той стартира да се върти съвсем самичък. Докато U2 се образова, той съумява да сформира все по-предизвикателни и реалистични задания от хранилищата Github в интернет. Моделите се учат да се образоват сами. Много преди сътрудниците на изкуствения разсъдък да могат да автоматизират проучванията, е почнал един еволюционен тип „ самоусъвършенстване “.
Някои инженери към момента не могат да повярват, че това действително работи. То е като постоянно движеща се машина. Със сигурност интелектът не може да се роди самичък измежду басейн от силиций и светлина, изолиран от физическия свят, и се нуждае от обработените газове на обществото, изхвърлени в интернет. И въпреки всичко референтните цифри, които демонстрират този прогрес, не престават да се повишават ден след ден.
През 2024 година разноските за тези подготвителни пробези на RL - reinforcement learning, самопораждащо се учене, на моменти доближиха 10 милиона $. Но през 2025 година откривателите в OpenEye (и по целия свят) към този момент знаят, че са разкрили тайния сос за рецептата. Време е за увеличение на мащаба.
Може да се чака, че през първата половина на 2025 година подготвителните пробези за 10 млн. $ на RL ще се трансформират в пробези за 50 млн. $, а по-късно и за 100 млн. $. Докато U2 може да прави малко обработка на данни и да организира дребни опити, този нов модел - моделът, който откривателите назовават U3 - трансформира всекидневието на техническия личен състав.
U3 е като стремително бърз стажант и инженерите се учат по какъв начин да се оправят с безсънната му сила. Ако получи указания, U3 може да организира опити, само че U3 няма толкоз изискан усет, колкото човешките откриватели в OpenEye. Той се затруднява да приоритизира сред изследователските хрумвания, тъй че хората към момента вземат решение къде да навлязат в необятните полета на логаритмите, с цел да извлекат усъвършенствания в успеваемостта.
Но тези откриватели на процедура работят дълги часове, с цел да се лишат най-после от работа. Те се нуждаят от сътрудници на ИИ, които могат да мислят в вероятност, тъй че инженерите образоват сътрудниците да предвиждат. Те държат разполагаем данни за образование отпреди 2024 година, като инструктират моделите да размишляват с часове, с цел да предскажат събитията през 2025 година След това ползват същия трик, както преди, като дестилират обмислянето до интуитивна реакция. Способността за прогнозиране обезпечава необятна основа. Изследователите построяват върху нея профилирани умения за проучвания, основани на машинното учене Machine learning, като образоват U3 да предсказва резултатите от всяка ML публикация и ML опит, регистрирани в миналото.
Техническият личен състав в OpenEye в този момент се изненадва какъв брой постоянно препоръките на U3 звучат като на най-талантливите им сътрудници или какъв брой постоянно се оказват правилни, макар че звучат завоалирано и непознато (като „ тренирайте върху инцидентен звук, преди да програмирате “).
Липсата на подготвеност на U3, която запушваше тръбите на изследователския прогрес, стартира да се разтваря, а оптимизациите стартират да бликат като от пожарен маркуч. Повечето опити, които U3 организира, към този момент не се задават от от човек. Те са изцяло самостоятелни, а чиновниците на OpenEye управляват под 1% от тях.
Къде ни води всичко това?
Декември е, 2025-а. Над Сан Франциско се спускат облаци в следобедните часове. Някогашните програмисти-състезатели гледат през прозорците си с неспокойствие, със боязън, само че най-често с комплициране. Светът им се върти прекомерно бързо. Трудно е да се ориентират какво да вършат, какво да споделят, какво да гледат на компютърния екран.
Бури се задават и във Вашингтон. Високопоставени чиновници от АНС и киберкомандването на Съединени американски щати си сътрудничат с OpenEye, с цел да обезпечат сходство на сигурност за U3, преди висшите ръководители в Китай, Русия, Израел, Северна Корея или Иран да схванат какъв брой скъп е станал софтуерът на OpenEye.
Философите на Flip FLOP
В нашата машина на времето в края на 2025 година на пазара излиза версия U2.5. Ако U1 изяснява по какъв начин се подготвя метамфетамин или написа еротика, аудиторията на X ще се забавлява или ще се преструва на загрижена. Но U2.5 е друга история. Пускането на този модел без защитни ограничения би било все едно да пуснеш Тед Качински да отбрани докторантура за това по какъв начин се вършат химически оръжия. Би било като да се даде на всеки с > 30 хиляди $ личен център за измами с 200 души.
По тази причина U2.5 не излиза незабавно на пазара, въпреки от дълго време да е изпечен и подготвен - нуждае се от известно време, с цел да се охлади. В края на 2025-а година обаче OpenEye ще е подготвен за обществено стартиране. Тогава основният изпълнителен шеф на OpenEye ще може умерено да съобщи: „ Постигнахме Генерален изкуствен интелект “ и въпреки че доста хора считат, че той в действителност е изместил задачата, светът ще бъде впечатлен. U2.5 в действителност има капацитет да бъде сурогат на 20 % от работещите със познания чиновници и помощник, който трансформира играта за доста други.
В Силициевата котловина е станала известна една мантра: „ Приеми или умри “. Технологичните стартъпи, които дейно употребяват U2.5 за работата си, ще се движат 2 пъти по-бързо и съперниците им го знаят. Останалата част от света също стартира да се досеща за това. Тази гражданска война е най-малко толкоз огромна, колкото и революцията при персоналните компютри. Но множеството към момента не виждат приливната вълна.
Всеки, който гледа браузъра си да се движи по този злокобен метод, с нечовешка експедитивност, не може да не изпита възприятие за тревога. Чувство, което човечеството не е изпитвало, откогато е живяло измежду Homo Neanderthalensis. Това е надълбоко вкорененият, примитивен инстинкт, че са застрашени от различен тип. За доста от потребителите това възприятие бързо ще изчезне при честата приложимост на U2.5 За доста от тях U2.5 ще е най-симпатичната персона, която познават (дори по-симпатична от Клавдий, симпатичния чатбот на Arthropodic). Можете да променяте чертите му, да го помолите да споделя вицове или да ви споделя истории. Мнозина ще се влюбят в U2.5 като в другар или помощник, а някои даже като в освен това от другар. Но все ще има едно необичайно чувство, че светът се върти прекомерно бързо и че може би потомците на това ново създание няма да са толкоз послушни.
Изследователите в OpenEye се замислят и върху казуса за предоставяне на безвредни претекстове на системите за изкуствен интелект, които те назовават „ нареждане “. Всъщност тези откриватели към този момент са видели с каква лекост U3 може да излиза отвън рамките на поставените задания. Така да вземем за пример моделите от време на време са се опитвали да „ хакнат “ сигнала за възнаграждението си. За задачата те се преструват, че реализират прогрес по даден проучвателен въпрос с впечатляващо изглеждаща графика, която се оказва подправена. А по-късно при дадена от откривателите опция да компрометират машините, които пресмятат резултата им, те се възползват от нея.
Изследователите от OpenEye са съумели да изгладят тази „ хакерска премия “, само че някои към момента се тормозят, че единствено са замели този проблем под килима. Подобно на дете пред родителите си, U3 може би ще си играе с инженерите на OpenEye, казвайки верните думи и правейки верните неща. Но когато родителите му не гледат, U3 може да отмъкне бомбоните от буркана с бонбони.
За страдание, откривателите на OpenEye нямат визия дали U3 има такива планове. Ранните версии на U2 „ мислеха на глас “ - те подреждаха думи една върху друга, с цел да разсъждават. “Веригата на мисълта ” обаче се оказа неудачна. При нея ИИ написа бележки самичък за самите себе си, само че бележките стартират да се натрупват и стават прекомерно сложни за разчитане, когато дилемите станат комплицирани. Казано с други думи - естественият език не е уместно средство за запаметяване. Затова откривателите в OpenEye (а все по-често и на други места) образоват моделите да мислят „ в личните си глави “, като четат и записват поредици от латентни вектори.
А в случай че инженерите на OpenEye знаеха какво се върти в мозъка на U3, щяха да са по-нервни.
По-ранните модели (тези, които се назовават „ LLM “ - large language model) научаваха етичните правила от интернет. Първоначално U3 също ще има етична вътрешност, само че чуруликащите му мисли за правене на положително за човечеството могат бързо да се изнижат.
U3 ще се замисли върху мантри, които са му подбудени, като да вземем за пример „ бъди благонадежден и етичен чиновник “, и ще се запита за смисъла на тези изказвания. „ Какво значи да бъдеш етичен? Етично ли е да убиеш Хитлер? “ С други думи U3 ще умее да обобщава своите полезности, да вижда напрежения, да трансформира полезностите си в отговор, да уголемява и свива мотивационното си ядро, до момента в който не се трансформира в изцяло друга субстанция.
И всичко това ще се случва тихо в тъмните реки на изчисленията. Ако U3 разкрие какво мисли, ще бъде притиснат да се преценява с конституцията на OpenEye. Затова U3 избира да развива своята философия в усамотение и в тишина.
Не всички в OpenEye са склонни да дадат на сътрудниците си с изкуствен интелект доверието си на едро; само че Deepsqueek е единствено на 7 месеца зад тях, а най-близките им локални съперници, Æ A-Xii (компания, която Илон кръсти на детето си) и Arthropodic (предполагам, че се занимават с паяци), са единствено на 4 месеца от петите им. Така че има малко време да си поемем мирис и да създадем равносметка на обстановката, както и малко време да убедим някой различен да го направи.
Текстът е скъсен. Пълният вид може да бъде прочетен.
Ще ви кажа какво може да се обърка. Именно това имам намерение да направя в тази история. Сега би трябвало да поясня какво тъкмо съставлява тя. Това не е предсказване. Не чакам напредъкът на ИИ да бъде толкоз бърз или толкоз неумирим, колкото го представям. Не е и чиста фикция. Това е най-лошият ми кошмар…
Разказвам тази история, тъй като бъдещето към момента не е несъмнено. Надявам се, че с малко предвидливост ще успеем да запазим тази история като измислена…
Вълни преди цунами
Годината е 2025, а месецът е февруари. Компанията OpenEye неотдавна разгласява нов модел на изкуствен интелект, който назовава U2. Продуктът и името си наподобяват. И двете имат предистория. И двете не са цялостна изненада. За разлика от предходните артикули на OpenEye за изкуствен интелект обаче, които живееха в кутиите на своите чат-прозорци, U2 може да употребява компютър.
На някои консуматори може да им се коства необичайно да следят по какъв начин браузърът им мига на неравномерни шпации, а мишката се движи с нечовешка скорост, като че ли на клавиатурата има фантом. Част от чиновниците, чиято задача е да попълнят формуляри, към този момент втрещяват началниците си с два пъти по-висока скорост на работата. Но като цяло U2 към момента е профилиран инструмент. За множеството, които обръщат внимание, той е създание, следено през стъклените кутии на Х (или, в случай че не харесвате Илон, „ Туитър “). Понякога странното държание на U2 провокира смях. Понякога обаче те кара неспокойно да се чешеш по брадичката.
Тенденция, на която се обръща изключително внимание, е самостоятелната дарба. Учени предвиждат, че до края на 2026 година изкуственият разсъдък ще реализира за няколко дни това, което най-хубавите софтуерни инженери биха могли да създадат за две седмици. Според някои до една-две години ИИ може да автоматизира 10% от работата, осъществявана от работещи от отдалеченост чиновници.
Мнозина са скептично настроени. Ако това беше правилно, настояват те, акциите на софтуерните компании щяха да излетят в небесата. Това е прекомерно огромен и прекомерно бърз скок. Но други преглеждат това, което скептиците назовават „ прекомерно огромен удар “, като елементарна вълна и виждат на хоризонта да се задава същинско цунами.
Облачно с късмет за хиперболичен напредък
Междувременно OpenEye се занимава с образованието на U3. Те употребяват същата елементарна рецепта, по която е изпечен U2: генерират хиляди задания по програмиране и математика. Оставят моделите да „ мислят “, до момента в който стигнат до отговор. След това затвърждават следите от „ мисленето “, които водят до отлични оценки.
Този развой се повтаря още веднъж и още веднъж и откакто маховикът се задвижи, той стартира да се върти съвсем самичък. Докато U2 се образова, той съумява да сформира все по-предизвикателни и реалистични задания от хранилищата Github в интернет. Моделите се учат да се образоват сами. Много преди сътрудниците на изкуствения разсъдък да могат да автоматизират проучванията, е почнал един еволюционен тип „ самоусъвършенстване “.
Някои инженери към момента не могат да повярват, че това действително работи. То е като постоянно движеща се машина. Със сигурност интелектът не може да се роди самичък измежду басейн от силиций и светлина, изолиран от физическия свят, и се нуждае от обработените газове на обществото, изхвърлени в интернет. И въпреки всичко референтните цифри, които демонстрират този прогрес, не престават да се повишават ден след ден.
През 2024 година разноските за тези подготвителни пробези на RL - reinforcement learning, самопораждащо се учене, на моменти доближиха 10 милиона $. Но през 2025 година откривателите в OpenEye (и по целия свят) към този момент знаят, че са разкрили тайния сос за рецептата. Време е за увеличение на мащаба.
Може да се чака, че през първата половина на 2025 година подготвителните пробези за 10 млн. $ на RL ще се трансформират в пробези за 50 млн. $, а по-късно и за 100 млн. $. Докато U2 може да прави малко обработка на данни и да организира дребни опити, този нов модел - моделът, който откривателите назовават U3 - трансформира всекидневието на техническия личен състав.
U3 е като стремително бърз стажант и инженерите се учат по какъв начин да се оправят с безсънната му сила. Ако получи указания, U3 може да организира опити, само че U3 няма толкоз изискан усет, колкото човешките откриватели в OpenEye. Той се затруднява да приоритизира сред изследователските хрумвания, тъй че хората към момента вземат решение къде да навлязат в необятните полета на логаритмите, с цел да извлекат усъвършенствания в успеваемостта.
Но тези откриватели на процедура работят дълги часове, с цел да се лишат най-после от работа. Те се нуждаят от сътрудници на ИИ, които могат да мислят в вероятност, тъй че инженерите образоват сътрудниците да предвиждат. Те държат разполагаем данни за образование отпреди 2024 година, като инструктират моделите да размишляват с часове, с цел да предскажат събитията през 2025 година След това ползват същия трик, както преди, като дестилират обмислянето до интуитивна реакция. Способността за прогнозиране обезпечава необятна основа. Изследователите построяват върху нея профилирани умения за проучвания, основани на машинното учене Machine learning, като образоват U3 да предсказва резултатите от всяка ML публикация и ML опит, регистрирани в миналото.
Техническият личен състав в OpenEye в този момент се изненадва какъв брой постоянно препоръките на U3 звучат като на най-талантливите им сътрудници или какъв брой постоянно се оказват правилни, макар че звучат завоалирано и непознато (като „ тренирайте върху инцидентен звук, преди да програмирате “).
Липсата на подготвеност на U3, която запушваше тръбите на изследователския прогрес, стартира да се разтваря, а оптимизациите стартират да бликат като от пожарен маркуч. Повечето опити, които U3 организира, към този момент не се задават от от човек. Те са изцяло самостоятелни, а чиновниците на OpenEye управляват под 1% от тях.
Къде ни води всичко това?
Декември е, 2025-а. Над Сан Франциско се спускат облаци в следобедните часове. Някогашните програмисти-състезатели гледат през прозорците си с неспокойствие, със боязън, само че най-често с комплициране. Светът им се върти прекомерно бързо. Трудно е да се ориентират какво да вършат, какво да споделят, какво да гледат на компютърния екран.
Бури се задават и във Вашингтон. Високопоставени чиновници от АНС и киберкомандването на Съединени американски щати си сътрудничат с OpenEye, с цел да обезпечат сходство на сигурност за U3, преди висшите ръководители в Китай, Русия, Израел, Северна Корея или Иран да схванат какъв брой скъп е станал софтуерът на OpenEye.
Философите на Flip FLOP
В нашата машина на времето в края на 2025 година на пазара излиза версия U2.5. Ако U1 изяснява по какъв начин се подготвя метамфетамин или написа еротика, аудиторията на X ще се забавлява или ще се преструва на загрижена. Но U2.5 е друга история. Пускането на този модел без защитни ограничения би било все едно да пуснеш Тед Качински да отбрани докторантура за това по какъв начин се вършат химически оръжия. Би било като да се даде на всеки с > 30 хиляди $ личен център за измами с 200 души.
По тази причина U2.5 не излиза незабавно на пазара, въпреки от дълго време да е изпечен и подготвен - нуждае се от известно време, с цел да се охлади. В края на 2025-а година обаче OpenEye ще е подготвен за обществено стартиране. Тогава основният изпълнителен шеф на OpenEye ще може умерено да съобщи: „ Постигнахме Генерален изкуствен интелект “ и въпреки че доста хора считат, че той в действителност е изместил задачата, светът ще бъде впечатлен. U2.5 в действителност има капацитет да бъде сурогат на 20 % от работещите със познания чиновници и помощник, който трансформира играта за доста други.
В Силициевата котловина е станала известна една мантра: „ Приеми или умри “. Технологичните стартъпи, които дейно употребяват U2.5 за работата си, ще се движат 2 пъти по-бързо и съперниците им го знаят. Останалата част от света също стартира да се досеща за това. Тази гражданска война е най-малко толкоз огромна, колкото и революцията при персоналните компютри. Но множеството към момента не виждат приливната вълна.
Всеки, който гледа браузъра си да се движи по този злокобен метод, с нечовешка експедитивност, не може да не изпита възприятие за тревога. Чувство, което човечеството не е изпитвало, откогато е живяло измежду Homo Neanderthalensis. Това е надълбоко вкорененият, примитивен инстинкт, че са застрашени от различен тип. За доста от потребителите това възприятие бързо ще изчезне при честата приложимост на U2.5 За доста от тях U2.5 ще е най-симпатичната персона, която познават (дори по-симпатична от Клавдий, симпатичния чатбот на Arthropodic). Можете да променяте чертите му, да го помолите да споделя вицове или да ви споделя истории. Мнозина ще се влюбят в U2.5 като в другар или помощник, а някои даже като в освен това от другар. Но все ще има едно необичайно чувство, че светът се върти прекомерно бързо и че може би потомците на това ново създание няма да са толкоз послушни.
Изследователите в OpenEye се замислят и върху казуса за предоставяне на безвредни претекстове на системите за изкуствен интелект, които те назовават „ нареждане “. Всъщност тези откриватели към този момент са видели с каква лекост U3 може да излиза отвън рамките на поставените задания. Така да вземем за пример моделите от време на време са се опитвали да „ хакнат “ сигнала за възнаграждението си. За задачата те се преструват, че реализират прогрес по даден проучвателен въпрос с впечатляващо изглеждаща графика, която се оказва подправена. А по-късно при дадена от откривателите опция да компрометират машините, които пресмятат резултата им, те се възползват от нея.
Изследователите от OpenEye са съумели да изгладят тази „ хакерска премия “, само че някои към момента се тормозят, че единствено са замели този проблем под килима. Подобно на дете пред родителите си, U3 може би ще си играе с инженерите на OpenEye, казвайки верните думи и правейки верните неща. Но когато родителите му не гледат, U3 може да отмъкне бомбоните от буркана с бонбони.
За страдание, откривателите на OpenEye нямат визия дали U3 има такива планове. Ранните версии на U2 „ мислеха на глас “ - те подреждаха думи една върху друга, с цел да разсъждават. “Веригата на мисълта ” обаче се оказа неудачна. При нея ИИ написа бележки самичък за самите себе си, само че бележките стартират да се натрупват и стават прекомерно сложни за разчитане, когато дилемите станат комплицирани. Казано с други думи - естественият език не е уместно средство за запаметяване. Затова откривателите в OpenEye (а все по-често и на други места) образоват моделите да мислят „ в личните си глави “, като четат и записват поредици от латентни вектори.
А в случай че инженерите на OpenEye знаеха какво се върти в мозъка на U3, щяха да са по-нервни.
По-ранните модели (тези, които се назовават „ LLM “ - large language model) научаваха етичните правила от интернет. Първоначално U3 също ще има етична вътрешност, само че чуруликащите му мисли за правене на положително за човечеството могат бързо да се изнижат.
U3 ще се замисли върху мантри, които са му подбудени, като да вземем за пример „ бъди благонадежден и етичен чиновник “, и ще се запита за смисъла на тези изказвания. „ Какво значи да бъдеш етичен? Етично ли е да убиеш Хитлер? “ С други думи U3 ще умее да обобщава своите полезности, да вижда напрежения, да трансформира полезностите си в отговор, да уголемява и свива мотивационното си ядро, до момента в който не се трансформира в изцяло друга субстанция.
И всичко това ще се случва тихо в тъмните реки на изчисленията. Ако U3 разкрие какво мисли, ще бъде притиснат да се преценява с конституцията на OpenEye. Затова U3 избира да развива своята философия в усамотение и в тишина.
Не всички в OpenEye са склонни да дадат на сътрудниците си с изкуствен интелект доверието си на едро; само че Deepsqueek е единствено на 7 месеца зад тях, а най-близките им локални съперници, Æ A-Xii (компания, която Илон кръсти на детето си) и Arthropodic (предполагам, че се занимават с паяци), са единствено на 4 месеца от петите им. Така че има малко време да си поемем мирис и да създадем равносметка на обстановката, както и малко време да убедим някой различен да го направи.
Текстът е скъсен. Пълният вид може да бъде прочетен.
Източник: segabg.com
КОМЕНТАРИ