Историята на „некомерсиалната“ лаборатория OpenAI, която твърде много хареса парите – втора част
В първата част разгледахме историята на основаването на OpenAI и се спряхме на концепциите на Сам Алтман за ефикасния алтруизъм. Нека в този момент да погледнем в бъдещето.
Надпреварата за бъдещето
OpenAI, Meta и Tesla към този момент всеобщо купуват графични процесори от Nvidia. Всъщност те даже се конкурират между тях за най-големите партиди от A100 и H100. Има клюки, че редица китайски компании за 2024 година са поръчали A800 на стойност 5 милиарда $. Nvidia A800 е забавена версия на A100, предопределена особено за Китай, като по този метод се заобикалят американските наказания.
Води се борба и за профилираните чипове с изкуствен интелект. Единствено Amazon не се нуждае от непознати графични процесори, защото създава своите лични ML ускорители Trainium и Inferentia.
Друг съперник е другият съосновател на OpenAI, Илън Мъск, който неотдавна купи домейна ai.com и в този момент образова личния си LLM (Long Language Model) xAI (чатбот TruthGPT, лишен от халюцинации).
Apple харчи милиони долари на ден за образование на ИИ. Основните цели са да се научат iPhone да извършват опростени гласови команди, с цел да се автоматизират дилемите в границите на няколко стъпки. Например, „ с цел да може гласовият помощник Siri да генерира анимиран GIF от последните пет фотоси в камерата – и да го изпрати на другар в чата„. Отделът за образен разсъдък на Apple работи по план за генериране на изображения и мултимодален ИИ, който може да разпознава и дава изображения, видео и текст – всички дружно, поотделно или според от поръчката. В развой на разработка е и чатбот, който ще бъде интегриран в услугата за обслужване на клиенти AppleCare. Усъвършенстваният LLM, наименуван Ajax GPT разполага с над 200 милиарда параметъра. Той е по-голям от GPT-3.5, само че е предопределен за вътрешна приложимост единствено от чиновниците на Apple.
Това към момента са първите напълно начални на практика приложения на LLM, само че мнозина гледат по-далеч в бъдещето, когато е съвсем неизбежно да се появи мощен изкуствен интелект, т.е. AGI. Очакванията за времето на появяването на AGI могат да бъдат почти оценени благодарение на системата за агрегиране на прогнози Metaculus. В нея датата на появяването на AGI последователно се доближава. Сега междинната медиана на прогнозата за появяването на AGI към този момент се е изместила към месец декември 2031 година
Ето и някои други прогнози от груповото схващане на потребителите на Metaculus:
GPT-5 ще бъде обявен през декември 2024 година Вероятността GPT-5 да се опита да се измъкне от човешкия надзор е 22%.През лятото на 2025 година изкуственият разсъдък ще премине авторитетния тест за просветеност на MENSA, а до 2026 година ще може самичък да основава други невронни мрежи. ИИ, който е неразграничим от човешкия разсъдък, ще се появи до 2040 година
В едно от последните си изявленията Мустафа Сюлейман, съосновател на DeepMind и Infection AI (един от водещите съперници на OpenAI), също изрече съмнение, че ИИ ще има огромно значение за живота на хората – от създаването на нови синтетични организми до прочувствената поддръжка на хората. Той има вяра, че „ изкуственият прочувствен разсъдък “ като ментор и преподавател „ ще помогне да се отключи креативният капацитет на милиони хора “. Но има и противоположна страна, доста тъмна страна.
В провокативната си книга „ Идващата вълна “ (The Coming Wave) Сюлейман рисува мрачна картина на бъдещето като че ли от телевизионния сериал „ Черното огледало “. Той предвижда, че „ изкуственият разсъдък бързо ще понижи разноските за реализиране на всяка цел„. Неговите благоприятни условия за икономисване и понижаване на труда и решение на всевъзможни проблеми ще станат на ниска цена налични за всички. Както печатарската преса даде на елементарните хора книги, а силициевите чипове вкараха компютър във всеки дом, по този начин и изкуственият разсъдък ще демократизира осъществяването на елементарните задания. Виртуалният помощник ще ви даде опция да регистрирате компания с две кликвания или да пуснете рой ботове, които да изградят къща. Но също толкоз елементарно може да провежда банкрута на конкурентна компания или да сътвори гибелен вирус благодарение на ДНК синтезатор.
В книгата се споделя още, че промишлените артикули няма да се сглобяват, а ще се „ отглеждат “ от синтетични биологични материали, като се употребява въглерода от атмосферата. Не единствено това, „ организмите ще бъдат проектирани и създавани с точност и мащаб, сравними с днешните компютърни чипове и програмен продукт “. Според създателя на книгата това е единствено дребна екстраполация на траекторията, по която към този момент се движим. Компании като The Odin към този момент продават комплекти за домашно генно инженерство, включващи живи жаби, щурци и биоматериал от човешки органи.
Изкуственият разсъдък е „ универсална технология “ като електричеството и компютрите. Това е технология, която прониква във всички сфери на живота, ползва се във всички области и трансформира всичко към себе си. В същото време ИИ има неповторимия измежду съществуващите до момента в човешката история технологии капацитет независимо да взема решения. И може да бъде употребен за най-мракобесни цели.
Така да вземем за пример OpenAI особено образува група от промт-инженери, които тестват най-опасните способи за потребление на GPT-4. Оказа се, че тази версия е доста по-добра от предходната в генерирането на зло. Тя може да ви каже кои химикали са най-подходящи за произвеждане на експлозиви, по какъв начин да ги синтезирате малко по малко в някоя напълно спонтанна лаборатория.
Мнозина към този момент са съгласни, че човечеството е на прага на значимо изобретение, може би най-важното в историята на човешката цивилизация. Това може би е по този начин. Само след няколко години това ще стане по-ясно.
Сюлейман е създател на бизнес проекта на DeepMind за 2010 година Тогава, на първата страница, той и сътрудниците му формулираха задачата:
„ Да създадем безвреден и етичен AGI в интерес на човечеството “.
Това е почти същото, което OpenAI публично заявява. Ранната позиция на DeepMind задава тона на последващите организации, в това число OpenAI, която стартира като организация с нестопанска цел, значително тъй като DeepMind зададе подобен „ стандарт за алтруизъм “ за фирмите за изкуствен интелект.
Гугъл, въпреки това, стартира с мотото „ Организирай цялата информация на света “ за положителното на хората и „ Не бъди злобен “, само че в последна сметка се отдалечи на светлинни години от тези идеали под натиска на комерсиалните ползи.
OpenAI също стартира добре. За страдание, суровата действителност последователно унищожава идеалистичното обръщение
