20% от изчислителната мощност на OpenAI се използва за създаването на защита от свръхразумен ИИ
Докато спорът сред Сам Алтман и борда на шефовете на OpenAI към момента назряваше, компанията е основала екип за попречване на евентуално рискови обстановки, в които свръхинтелигентният разсъдък излиза отвън надзор. Сега експерти на изданието TechCrunch разговаряха с членовете му и схванаха какъв брой действителна съгласно тях е опасността и какви ограничения създава компанията, с цел да предотврати „ въстанието на машините “. Оказа се, че Алтман е изцяло убеден в идната поява на мощен ИИ и е дал на специфичен екип от учени и инженери 20% от общата изчислителна мощност на OpenAI, с цел да основат технология за неговото управление.
През месец юли OpenAI образува екипа Superalignment, с цел да създаде способи за ръководство, контролиране и надзор на „ свръхинтелигентните “ системи с изкуствен интелект – т.е. хипотетични машини, които превъзхождат по просветеност хората. Той се оглавява от Иля Суцкевер, същият, който ръководеше несполучливия опит за прелом против Алтман и бе отхвърлен от борда на шефовете. Позицията му в компанията е несигурна, само че той е оставен на работа.
„ Днес можем да направляваме AI модели, които са по-глупави от нас или най-вече почти равни на нас “, споделя Колин Бърнс, един от членовете на екипа на Superalignment, пред TechCrunch. – Контролирането на модели, които са доста по-умни от нас, не е толкоз явна задача – по какъв начин въобще е допустимо това? “
Свръхинтелигентният ИИ е противоречив въпрос в средите на разработчиците. Не всички са уверени, че опасността е действителна. Алтман обаче неведнъж е изтъквал вероятните опасности и даже съпостави ИИ с нуклеарна бомба, а OpenAI – с плана „ Манхатън “. Някои специалисти обаче настояват, че тези изказвания са направени, с цел да се отклони вниманието на законодателите от същинските проблеми на ИИ: да вземем за пример пристрастността и неналичието на бистрота.
Самият Суцкевер е уверен в действителността на опасността, написа TechCrunch. Това проличава освен от неговите изказвания, само че и от дейностите му: той е също е пренасочил забележителна част от изчислителната мощност на компанията.
„ Наблюдаваният в последно време прогрес в региона на изкуствения разсъдък е необикновено бърз и мога да ви уверя, че той няма да се забави “, съобщи Леополд Ашебренер, член на екипа на Superalignment. – Мисля, че доста скоро ще достигнем до системи на човешко равнище, само че няма да спрем до такава степен и ще отидем още по-далеч, до гигантски системи. (…) И по този начин, по какъв начин да направляваме свръхинтелигентните системи с изкуствен интелект и по какъв начин да ги създадем безвредни? Това е проблем, пред който е изправено цялото човечество и който може би е най-важният неуреден механически проблем на нашето време “.
Сега екипът работи по създаването на система за надзор на бъдещите и евентуално рискови ИИ на държавно и друго равнище. Задачата не е явна, като се има поради неналичието на единодушие по отношение на определението за „ свръхинтелигентност “ и способността на ИИ системите да я реализиран. Подходът, който в този момент се изследва в Superalignment, е да се употребяват по-малко комплицирани модели (например GPT-2), с цел да се насочи в вярната посока развиването на по-сложните (GPT-4). По-слабият модел на процедура се употребява като аналог на човек, който се пробва да управлява свръхинтелигентен изкуствен интелект.
Всички резултати от работата на този екип ще бъдат предоставени на необятната общност, увериха членовете на екипа.
Учените са загрижени, че необразованото потребление на изкуствения разсъдък води до заливане с ненадеждни или безполезни проучвания. Това може да докара до рецесия на възпроизводимостта на научните писания. Моделите на изкуствения разсъдък страдат от пристрастия и неточности, които се придвижват в научните публикации. В медицината това може да докара до неправилни диагнози. Засега.
