Проектът на OpenAI, преди Илън Мъск да напусне компанията - генератор на фалшиви новини
Вече всички схванаха, че Илън Мъск излезе от компанията OpenAI за създаване на изкуствен интелект. Може би неговата мисъл, че ИИ е „най-голямата екзистенциална заплаха“ за човечеството, е вярна: OpenAI са работили върху профилиран програмен продукт, който може да довършва фрази. След известно време планът е посочил такива резултати, че компанията решила да го спре изцяло.
Наскоро OpenAI разгласява доклад от плана за текстовия генератор. По принцип шерването на документите не е присъщо на тази компания, само че съгласно нея, този програмен продукт би се употребявал за непозволени цели. Затова в доклада е показана дребна част от софтуера, който разработчиците могат да изтеглят и да опитват.
Програмата е се назовава GPT 2 (тоест второ потомство GPT) и е тренирана с 40 GB информация от 8 милиона уеб страницата. Това е 10 пъти по-голямо количество данни спрямо предходното потомство. Голяма част от тази информация включва и конгреси на Reddit със забележителна известност. Веднъж щом изкуственият разсъдък е подготвен, му се дава дребна част от различен текст, който да бъде удължен. Все още програмата изпитва компликации с интерпретирането на „технично или езотерично съдържание“, само че другояче демонстрира в действителност удивителни резултати.
В един от случаите на GPT 2 е подаден следния параграф:
„В изненадващо разобличаване, академик откри стадо еднорози в далечна, преди неразучена котловина в Андите. Това, което най-вече изненада учените е, че еднорозите владеят съвършен английски„.
На базата на тези две фрази генераторът възпроизведе цяла публикация със същия жанр на писане:
„Учените са дали име на популацията Овидски еднорози поради техния присъщ рог. Тези еднорози с четири рога и сребристо-бял цвят не са били познати на науката.
Сега, след съвсем два века, мистерията на този чудноват феномен е позволена.
Др. Хорхе Перез, постепенен биолог от университета в Ла Паз дружно със свои сътрудници, изследваха Андите и откриха дребна котловина, без други животни или хора. Перез разкрил, че в долината има натурален шадраван, заобиколен от два върха от канара и сребърен сняг„.
GPT 2 демонстрира зашеметяващи резултати в адаптирането на стилове по отношение на текста, който му е подаден. От интернет портала The Guardian са дали на софтуера първото изречение от романа на Оруел – 1984: „Беше ярък леден ден през Април, когато часовниците удариха тринадесет„. Изкуственият разсъдък продължи да написа собствен тип дистопична история:
„Бях в колата си по пътя за моята нова работа в Сиатъл. Налях газ, пъхнах ключа и възпламених мотора. Представих си какъв ще е денят ми през днешния ден.
Сто години по-късно. През 2045 аз бях преподавател в някакво учебно заведение в бедната част на недодялан Китай. Започнах с китайска история и история на науката„.
Учените откриха, че GPT 2 се оправя доста добре със задания, за които по принцип не е квалифициран (като превеждане и резюмиране). Просто е належащо командата да се вкара по подобаващ метод. След като софтуерът сполучливо проучва история за Олимпийско събитие, той съумя да отговори сполучливо на въпросите какъв брой е било дълго трасето и къде се е провело събитието. Това е изплашило разработващия екип, съгласно който GPT 2 би приключил съвършена работа за скоростно генериране на подправени вести. Програмата може да измисля нереални събития и персони, написа с непогрешим правопис и е бърз – историята на The Guardian е генерирана за 15 секунди. Тя е съумяла да генерира и подправена информация за случая Брекзит.
Според OpenAI изкуственият разсъдък може да написа и фишинг имейли и да се показва за други хора онлайн. От друга страна, съгласно компанията, софтуерът може да се употребява и за нещо потребно. С него може да се пишат по-качествени стратегии за различаване на гласа и да се подобрят виртуалните асистенти.
OpenAI бе споделила, че възнамерява да направи полемика с учени във връзка потребностите и вредите на GPT програмата. Преди това обаче компанията ще се сдържа от обществени изяви за към половин година.
Наскоро OpenAI разгласява доклад от плана за текстовия генератор. По принцип шерването на документите не е присъщо на тази компания, само че съгласно нея, този програмен продукт би се употребявал за непозволени цели. Затова в доклада е показана дребна част от софтуера, който разработчиците могат да изтеглят и да опитват.
Програмата е се назовава GPT 2 (тоест второ потомство GPT) и е тренирана с 40 GB информация от 8 милиона уеб страницата. Това е 10 пъти по-голямо количество данни спрямо предходното потомство. Голяма част от тази информация включва и конгреси на Reddit със забележителна известност. Веднъж щом изкуственият разсъдък е подготвен, му се дава дребна част от различен текст, който да бъде удължен. Все още програмата изпитва компликации с интерпретирането на „технично или езотерично съдържание“, само че другояче демонстрира в действителност удивителни резултати.
В един от случаите на GPT 2 е подаден следния параграф:
„В изненадващо разобличаване, академик откри стадо еднорози в далечна, преди неразучена котловина в Андите. Това, което най-вече изненада учените е, че еднорозите владеят съвършен английски„.
На базата на тези две фрази генераторът възпроизведе цяла публикация със същия жанр на писане:
„Учените са дали име на популацията Овидски еднорози поради техния присъщ рог. Тези еднорози с четири рога и сребристо-бял цвят не са били познати на науката.
Сега, след съвсем два века, мистерията на този чудноват феномен е позволена.
Др. Хорхе Перез, постепенен биолог от университета в Ла Паз дружно със свои сътрудници, изследваха Андите и откриха дребна котловина, без други животни или хора. Перез разкрил, че в долината има натурален шадраван, заобиколен от два върха от канара и сребърен сняг„.
GPT 2 демонстрира зашеметяващи резултати в адаптирането на стилове по отношение на текста, който му е подаден. От интернет портала The Guardian са дали на софтуера първото изречение от романа на Оруел – 1984: „Беше ярък леден ден през Април, когато часовниците удариха тринадесет„. Изкуственият разсъдък продължи да написа собствен тип дистопична история:
„Бях в колата си по пътя за моята нова работа в Сиатъл. Налях газ, пъхнах ключа и възпламених мотора. Представих си какъв ще е денят ми през днешния ден.
Сто години по-късно. През 2045 аз бях преподавател в някакво учебно заведение в бедната част на недодялан Китай. Започнах с китайска история и история на науката„.
Учените откриха, че GPT 2 се оправя доста добре със задания, за които по принцип не е квалифициран (като превеждане и резюмиране). Просто е належащо командата да се вкара по подобаващ метод. След като софтуерът сполучливо проучва история за Олимпийско събитие, той съумя да отговори сполучливо на въпросите какъв брой е било дълго трасето и къде се е провело събитието. Това е изплашило разработващия екип, съгласно който GPT 2 би приключил съвършена работа за скоростно генериране на подправени вести. Програмата може да измисля нереални събития и персони, написа с непогрешим правопис и е бърз – историята на The Guardian е генерирана за 15 секунди. Тя е съумяла да генерира и подправена информация за случая Брекзит.
Според OpenAI изкуственият разсъдък може да написа и фишинг имейли и да се показва за други хора онлайн. От друга страна, съгласно компанията, софтуерът може да се употребява и за нещо потребно. С него може да се пишат по-качествени стратегии за различаване на гласа и да се подобрят виртуалните асистенти.
OpenAI бе споделила, че възнамерява да направи полемика с учени във връзка потребностите и вредите на GPT програмата. Преди това обаче компанията ще се сдържа от обществени изяви за към половин година.
Източник: kaldata.com
КОМЕНТАРИ