OpenAI си е поставила за цел да създаде инструмент с

OpenAI си е сложила за цел да сътвори инструмент с изкуствен интелект, който би могъл да изследва личните си усъвършенствания. Сега компанията се приготвя за съпътстващите рискове при осъществяването на тази задача.

Потенциалът на системите с изкуствен интелект да реализират по този начин нареченото „ рекурсивно самоусъвършенстване “ излезе на напред във времето за водачите в региона на изкуствения разсъдък, откакто инструментите за шифроване от OpenAI и Anthropic направиха скок напред през последните шест месеца. Главният изпълнителен шеф на Гугъл DeepMind Демис Хасабис също съобщи тази седмица, че човечеството в този момент е в „ подножието на сингулярността “ - моментът, в който изкуственият разсъдък стартира да се усъвършенства и да изпреварва човешкия разсъдък.

OpenAI, която се стреми да излезе на борсата тази година, неотдавна разгласява публикация за работа, в която търси откривател по сигурност, който да се оправи с това какво се случва, когато изкуствен интелект може да образова по-добри версии на себе си - с други думи, когато излезе отвън общоприетия модел на държание или даже надзор.