Създаването на изкуствен интелект с възможности отвъд човешкия разум ще

Създаването на изкуствен интелект с благоприятни условия оттатък човешкия разсъдък ще отнеме по-малко от десетилетие (снимка: CC0 Public Domain)

OpenAI, компанията, която стартира конкуренцията в изкуствения разсъдък с извънредно ефикасния бот ChatGPT, образува специфичен екип за ръководство и надзор на „ суперинтелигентни ” AI системи. Един от създателите на компанията и основен откривател Иля Суцкевер ще управлява екипа .

Според обява в блога на OpenAI, изкуствен интелект оттатък опциите на човешкия разум може да се появи в границите на едно десетилетие. В същото време въобще не е належащо този „ супер-разум ” да бъде благоразположен към човечеството – затова е належащо да се търсят способи за надзор и ограничение на опциите на такива системи.

OpenAI признава, че през днешния ден няма решения за ефикасен надзор и ръководство на суперинтелигентния AI и попречване на „ експанзия ” от негова страна. Съществуващите технологии за конфигурация на изкуствения разсъдък се основават на образование с укрепване въз основа на човешка противоположна връзка. В същото време такива техники разчитат на обстоятелството, че хората по принцип могат да управляват AI, което е малко евентуално при системи, които са евентуално по-интелигентни от хората.
още по темата
За да изследва този проблем, специфичният екип на OpenAI ще получи достъп до 20% от изчислителната мощ на компанията. Към него ще се причислят учени и програмисти от отдела за персонализиране на изкуствения разсъдък, както и от други подразделения на разработчика. През идващите четири години екипът има намерение да овладее основните механически провокации, свързани с контрола на суперинтелигентния AI.

Всъщност приказваме за AI образование посредством противоположна връзка. То ще употребява специфичен изкуствен интелект, предопределен да прави оценка други AI системи и да подсигурява мечтаните резултати, както и да подсигурява сигурността на тяхната работа. OpenAI има вяра, че изкуственият разсъдък ще се оправи с това по-добре и по-бързо от хората.

С развиването на AI системите от тях се чака да поемат от ден на ден и повече задания и вследствие на това те ще основават и ползват по-добри технологии за персонализиране от наличните сега. Те ще работят с хората, с цел да създадат личните си наследници по-отзивчиви към потребностите на хората, които единствено ще управляват, без да вземат участие директно в проучванията.

Разбира се, нито един способ няма безспорна отбрана от неточности, признава OpenAI. Използването на един AI за оценка на други може да докара до увеличение на бъговете и уязвимостите в създаваните AI системи и като цяло да покаже, че най-трудната част от персонализирането е обвързвана с най-неочакваните аспекти на това по какъв начин работи изкуствения разсъдък.

OpenAI обаче има вяра, че настройката на суперинтелигентността е главно задача на машинното образование и експертите в тази промишленост ще играят сериозна роля. Компанията има намерение да показа резултатите от своите проучвания в бъдеще, с цел да сътвори и отбрани планове, даже и тези, които не са свързани с нейните разработки.

Според обява на Ройтерс, съперниците на самодейността считат, че AI с мислене на човешко равнище може да излезе отвън надзор даже преди да е зает с обезпечаване на безвредна работа на други AI системи. Анализаторите напомнят, че през април представители на експертната и бизнес общественост разгласиха отворено писмо, в което предизвестиха да не се основава AI, който е по-напреднал от GPT-4.