Иновация: изстрел от пистолет след подадена гласова команда
Ентусиастът Александър Ребен разгласява видео, което повдигна неотложни въпроси по отношение на изкуствения разсъдък.
За положително или неприятно, Гугъл Assistant може да направи всичко. От баналното включване на осветлението и увещание за идни събития, до напълно точното подражаване на човешкия диалог. Този изкуствен интелект се оказа толкоз добър, че даже плаши.
Но новата (неофициална) дарба на Гугъл Assistant е напряко злокобна. Популярният американски запалянко в региона на роботиката Александър Ребен (Alexander Reben) накара компютърния помощник да стреля с револвер . За благополучие, жертвата е ябълка, а не човешко създание. А умерено би могъл да бъде и човек.
Клипът е наименуван просто „Google Shoots“ и демонстрира целия развой. Ребен задава следната команда: „OK Гугъл, зареди пистолета„. Секунда по-късно револверът е подготвен и следва изстрел. Всичко в тази сцена е направено от подръчни материали, а револверът е сценичен и е взет от студиото на Ребен. Експериментът повдигна редица значими въпроси по отношение на границите за потреблението на изкуствения разсъдък.
Самият Ребен смята, че полемиката към основаването и потреблението на сходно устройство са по-важни от неговата действителна физическа същина. В този план той е избрал да употребява Гугъл Assistant, само че без проблем би могъл да се употребява Amazon Echo или различен гласови помощник на друга компания.
Експериментът на Ребен е доста индикативен. В случая, точно той е виновен за случилото се, тъй като е дал гласовата команда за изстрела. Но в един свят, в който машинното образование е довело до появяването на изкуствен интелект, който е задоволително интелигентен, с цел да се преценява с потребностите на потребителите и да се грижи за техния комфорт, напълно не е мъчно да си представим, че напълно скоро ще пристигна денят, в който цифровите помощници могат да убият индивида, който е разстроил или ядосал потребителя. И кой тогава ще е виновен за неговата гибел?
Може би би трябвало да блокираме достъпа на изкуствения разсъдък до рисковите устройства. Но те към този момент са в колите ни, при военните и на доста други места, за които не сме се и замисляли. Можем да желаеме от фирмите да подсигуряват, че техните технологии и устройства няма да нанесат щета. Но е невероятно да предвидим всеки вероятен метод и всеки един случай, в който изкуственият разсъдък може да направи нещо неприятно.
„Това е едно обръщение, което демонстрира какви могат да бъдат непредвидените последици от потреблението на новите технологии. Очевидно е, че е напълно безсмислено да преглеждаме поотделно всеки един случай за корист с тях“ – сподели Ребен.
Гугъл надали предполагал, че неговият изкуствен интелект ще помогне в стрелбата с револвер. Ребен ни кара да си представим, какво би могло да се случи, в случай че злонамерени програмисти основат изкуствен интелект, който се употребява за незаконни цели. Наистина са нужни по-широки полемики и по-дълбоки размишления, с цел да не позволим на интелигентните машини да ни избият.
За положително или неприятно, Гугъл Assistant може да направи всичко. От баналното включване на осветлението и увещание за идни събития, до напълно точното подражаване на човешкия диалог. Този изкуствен интелект се оказа толкоз добър, че даже плаши.
Но новата (неофициална) дарба на Гугъл Assistant е напряко злокобна. Популярният американски запалянко в региона на роботиката Александър Ребен (Alexander Reben) накара компютърния помощник да стреля с револвер . За благополучие, жертвата е ябълка, а не човешко създание. А умерено би могъл да бъде и човек.
Клипът е наименуван просто „Google Shoots“ и демонстрира целия развой. Ребен задава следната команда: „OK Гугъл, зареди пистолета„. Секунда по-късно револверът е подготвен и следва изстрел. Всичко в тази сцена е направено от подръчни материали, а револверът е сценичен и е взет от студиото на Ребен. Експериментът повдигна редица значими въпроси по отношение на границите за потреблението на изкуствения разсъдък.
Самият Ребен смята, че полемиката към основаването и потреблението на сходно устройство са по-важни от неговата действителна физическа същина. В този план той е избрал да употребява Гугъл Assistant, само че без проблем би могъл да се употребява Amazon Echo или различен гласови помощник на друга компания.
Експериментът на Ребен е доста индикативен. В случая, точно той е виновен за случилото се, тъй като е дал гласовата команда за изстрела. Но в един свят, в който машинното образование е довело до появяването на изкуствен интелект, който е задоволително интелигентен, с цел да се преценява с потребностите на потребителите и да се грижи за техния комфорт, напълно не е мъчно да си представим, че напълно скоро ще пристигна денят, в който цифровите помощници могат да убият индивида, който е разстроил или ядосал потребителя. И кой тогава ще е виновен за неговата гибел?
Може би би трябвало да блокираме достъпа на изкуствения разсъдък до рисковите устройства. Но те към този момент са в колите ни, при военните и на доста други места, за които не сме се и замисляли. Можем да желаеме от фирмите да подсигуряват, че техните технологии и устройства няма да нанесат щета. Но е невероятно да предвидим всеки вероятен метод и всеки един случай, в който изкуственият разсъдък може да направи нещо неприятно.
„Това е едно обръщение, което демонстрира какви могат да бъдат непредвидените последици от потреблението на новите технологии. Очевидно е, че е напълно безсмислено да преглеждаме поотделно всеки един случай за корист с тях“ – сподели Ребен.
Гугъл надали предполагал, че неговият изкуствен интелект ще помогне в стрелбата с револвер. Ребен ни кара да си представим, какво би могло да се случи, в случай че злонамерени програмисти основат изкуствен интелект, който се употребява за незаконни цели. Наистина са нужни по-широки полемики и по-дълбоки размишления, с цел да не позволим на интелигентните машини да ни избият.
Източник: kaldata.com
КОМЕНТАРИ