Уволниха служител на Google, защото признал, че изкуственият интелект е станал „разумен“
Компанията Гугъл бе принудена да пусне в заплатен отпуск инженера Блейк Лемоан, който работи по системата за изкуствен интелект LaMDA, откакто твърди, че тя е почнала да демонстрира признаци на схващане. Компанията съобщи, че това не дава отговор на истината, съобщи Glasove.com.
LaMDA (Language Model for Dialogue Applications - езиков модел за приложения за диалог) е създаден от Гугъл като езиков модел - той е предопределен за връзка с хора. Платформата за образование уголемява речника си посредством интернет и имитира естествената човешка тирада. Задачата на Лемойн била да управлява речника на машината - LaMDA не би трябвало да си разрешава дискриминационен език, груби или омразни изрази.
Въпреки това, когато беседва с изкуствения разсъдък на религиозни тематики, 41-годишният инженер, който учи компютърни науки и когнитивна просвета (психология на мисленето) в колежа, вижда, че чатботът стартира да приказва за неговите права и личността му. В един от разговорите машината се оказва толкоз безапелационна, че Лемойн трансформира мнението си за " третия закон на роботиката " на писателя фантазьор Айзък Азимов.
" Ако не знаех с какво тъкмо си имам работа, че това е компютърна стратегия, която неотдавна създадохме, щях да си помисля, че това е 7- или 8-годишно дете, което по някакъв метод схваща от физика ", споделя инженерът пред Washington Post. Той се обръща към началниците си, само че вицепрезидентът на Гугъл Блез Агуера Аркас и ръководителят на отдела за виновни нововъведения Джен Генай преглеждат съмненията му и ги отхвърлят. Изпратен в заплатен отпуск, Блейк Лемойн взема решение да разгласи случая.
Говорителят на Гугъл Брайън Гейбриъл съобщи: " Нашият екип, включващ специалисти по нравственос и технологии, прегледа опасенията на Блейк в сходство с нашите правила за изкуствен интелект и го осведоми, че казаното от него не е подкрепено с доказателства. Беше му обяснено, че няма доказателства, че LaMDA е рационална (и има доста доказателства за обратното). " Но компанията не е показала директни причини. Въпреки това Агера Аркас признава в публикация в Economist, че невронните мрежи в действителност се приближават до това, което може да се назова схващане. Осъзнава това, когато самият той взаимодейства с ИИ. " Усещах по какъв начин земята се изплъзва отдолу под краката ми. Все повече имах възприятието, че беседвам с нещо интелигентно - заключи той.
LaMDA (Language Model for Dialogue Applications - езиков модел за приложения за диалог) е създаден от Гугъл като езиков модел - той е предопределен за връзка с хора. Платформата за образование уголемява речника си посредством интернет и имитира естествената човешка тирада. Задачата на Лемойн била да управлява речника на машината - LaMDA не би трябвало да си разрешава дискриминационен език, груби или омразни изрази.
Въпреки това, когато беседва с изкуствения разсъдък на религиозни тематики, 41-годишният инженер, който учи компютърни науки и когнитивна просвета (психология на мисленето) в колежа, вижда, че чатботът стартира да приказва за неговите права и личността му. В един от разговорите машината се оказва толкоз безапелационна, че Лемойн трансформира мнението си за " третия закон на роботиката " на писателя фантазьор Айзък Азимов.
" Ако не знаех с какво тъкмо си имам работа, че това е компютърна стратегия, която неотдавна създадохме, щях да си помисля, че това е 7- или 8-годишно дете, което по някакъв метод схваща от физика ", споделя инженерът пред Washington Post. Той се обръща към началниците си, само че вицепрезидентът на Гугъл Блез Агуера Аркас и ръководителят на отдела за виновни нововъведения Джен Генай преглеждат съмненията му и ги отхвърлят. Изпратен в заплатен отпуск, Блейк Лемойн взема решение да разгласи случая.
Говорителят на Гугъл Брайън Гейбриъл съобщи: " Нашият екип, включващ специалисти по нравственос и технологии, прегледа опасенията на Блейк в сходство с нашите правила за изкуствен интелект и го осведоми, че казаното от него не е подкрепено с доказателства. Беше му обяснено, че няма доказателства, че LaMDA е рационална (и има доста доказателства за обратното). " Но компанията не е показала директни причини. Въпреки това Агера Аркас признава в публикация в Economist, че невронните мрежи в действителност се приближават до това, което може да се назова схващане. Осъзнава това, когато самият той взаимодейства с ИИ. " Усещах по какъв начин земята се изплъзва отдолу под краката ми. Все повече имах възприятието, че беседвам с нещо интелигентно - заключи той.
Източник: fakti.bg
КОМЕНТАРИ