Когато изкуственият интелект кривне от правия път
Разработчиците постоянно не знаят по какъв начин невронните мрежи стигат до изводите, на които базират своите решения
Предизвикателство за откривателите е да основат принадлежности, с които да изчистят евентуалните дефекти измежду милиардите виртуални „ мозъчни кафези ” на изкуствения разсъдък
Системите за изкуствен интелект стават все по-широко публикувани – само че с това нарастват и възможностите техните проблеми да добият по-мащабни последствия.
Учени от Масачузетския софтуерен институт неотдавна съумяха да заблудят подготвителна стратегия за изкуствен интелект по този начин, че тя разпознава детска пластмасова играчка като… пушка. Ако предстоящ робот-полицай или боец направи сходна неточност, резултатите биха били пагубни.
още по тематиката
Затова в този момент откривателите създават принадлежности, с които да изчистят евентуалните дефекти измежду милиардите виртуални „ мозъчни кафези ” на системите за изкуствен интелект.
Обичайно стратегиите с изкуствен интелект за различаване на изображения, автомобилните автопилоти и други форми на ИИ употребяват изкуствени невронни мрежи, в които съставените елементи, наречени „ неврони ”, се зареждат с данни и работят дружно по решаването на задача – като да вземем за пример забелязване на трудности по пътя. Мрежата се учи, като неведнъж настройва връзките сред невроните си и пробва да реши задачата още веднъж и още веднъж.
С течение на времето системата дефинира кои невронни връзки са най-хубави при изчислителните решения. Тогава ги възприема като схеми „ по дифолт ”, имитирайки метода, по който се учи човешкият мозък.
Как се учи
Основно предизвикателство пред тази технология е, че разработчиците постоянно не знаят по какъв начин тъкмо мрежите стигат до изводите, на които базират своите решения. Така е мъчно да се разбере какво тъкмо се е случило, та е позволена дадена неточност, споделя Юнфенг Янг, компютърен академик в Колумбийския университет и съавтор на ново изследване, показано през октомври предходната година на симпозиум в Шанхай.
Янг и сътрудниците му са основали DeepXplore – стратегия, предопределена за дебъгване на системите за изкуствен интелект посредством противоположен инженеринг на процесите на самообразование. DeepXplore тества невронна мрежа с необятен набор от объркващи сигнали от действителния свят и споделя на мрежата, когато отговорите й са неправилни, с цел да може тя да се поправя.
Например, DeepXplore би могла да дефинира дали изображение от камера, подадено от автомобилна система за ръководство, неправилно е насочило транспортното средство към пешеходци. Инструментът за премахване на неточности също по този начин следи кои неврони в мрежата са дейни и тества всеки от тях поотделно.
Предишните принадлежности за премахване на неточности в системите за изкуствен интелект не можеха да схванат дали всеки неврон е тестван за неточности, споделя Янг.
От какво се учи
Друг значителен въпрос пред разработчиците на ИИ системи е от какви данни се учат този жанр системи. Една система е толкоз добра, колкото качествени са данните, от които се образова. Тук също има явни проблеми също, споделя Андрю Енджи от Университета Станфорд, който е и основен академик в китайския интернет колос Baidu.
Например, една система за ИИ в опазването на здравето, която е тренирана да разпознава кои пациенти с пневмония имат висок риск от гибел, има за задача да изпрати рисковите пациенти в болница. Но тя класифицира пациентите с астма като пациенти с невисок риск.
В естествена обстановка хората с астма, които с развили пневмония, се пращат право в интензивното поделение и се подлагат на лекуване, което доста понижава риска от гибел. Машината с изкуствен интелект обаче приема, че задачата астма+пневмония значи невисок риск от гибел.
Напредъкът
Добрата вест е, че системи като DeepXplore съумяват да разпознаят десетки неточности, които по-рано са били неуловими със съществуващите технологии. Напредъкът може да помогне за създаване на по-точни и по-надеждни невронни мрежи. Това, съгласно Шан Лу – компютърен откривател от Университета в Чикаго – може „ на собствен ред да бъде потребно за доста научно-изследователски дисциплини и ежедневния ни живот ”.
Предизвикателство за откривателите е да основат принадлежности, с които да изчистят евентуалните дефекти измежду милиардите виртуални „ мозъчни кафези ” на изкуствения разсъдък
Системите за изкуствен интелект стават все по-широко публикувани – само че с това нарастват и възможностите техните проблеми да добият по-мащабни последствия.
Учени от Масачузетския софтуерен институт неотдавна съумяха да заблудят подготвителна стратегия за изкуствен интелект по този начин, че тя разпознава детска пластмасова играчка като… пушка. Ако предстоящ робот-полицай или боец направи сходна неточност, резултатите биха били пагубни.
още по тематиката
Затова в този момент откривателите създават принадлежности, с които да изчистят евентуалните дефекти измежду милиардите виртуални „ мозъчни кафези ” на системите за изкуствен интелект.
Обичайно стратегиите с изкуствен интелект за различаване на изображения, автомобилните автопилоти и други форми на ИИ употребяват изкуствени невронни мрежи, в които съставените елементи, наречени „ неврони ”, се зареждат с данни и работят дружно по решаването на задача – като да вземем за пример забелязване на трудности по пътя. Мрежата се учи, като неведнъж настройва връзките сред невроните си и пробва да реши задачата още веднъж и още веднъж.
С течение на времето системата дефинира кои невронни връзки са най-хубави при изчислителните решения. Тогава ги възприема като схеми „ по дифолт ”, имитирайки метода, по който се учи човешкият мозък.
Как се учи
Основно предизвикателство пред тази технология е, че разработчиците постоянно не знаят по какъв начин тъкмо мрежите стигат до изводите, на които базират своите решения. Така е мъчно да се разбере какво тъкмо се е случило, та е позволена дадена неточност, споделя Юнфенг Янг, компютърен академик в Колумбийския университет и съавтор на ново изследване, показано през октомври предходната година на симпозиум в Шанхай.
Янг и сътрудниците му са основали DeepXplore – стратегия, предопределена за дебъгване на системите за изкуствен интелект посредством противоположен инженеринг на процесите на самообразование. DeepXplore тества невронна мрежа с необятен набор от объркващи сигнали от действителния свят и споделя на мрежата, когато отговорите й са неправилни, с цел да може тя да се поправя.
Например, DeepXplore би могла да дефинира дали изображение от камера, подадено от автомобилна система за ръководство, неправилно е насочило транспортното средство към пешеходци. Инструментът за премахване на неточности също по този начин следи кои неврони в мрежата са дейни и тества всеки от тях поотделно.
Предишните принадлежности за премахване на неточности в системите за изкуствен интелект не можеха да схванат дали всеки неврон е тестван за неточности, споделя Янг.
От какво се учи
Друг значителен въпрос пред разработчиците на ИИ системи е от какви данни се учат този жанр системи. Една система е толкоз добра, колкото качествени са данните, от които се образова. Тук също има явни проблеми също, споделя Андрю Енджи от Университета Станфорд, който е и основен академик в китайския интернет колос Baidu.
Например, една система за ИИ в опазването на здравето, която е тренирана да разпознава кои пациенти с пневмония имат висок риск от гибел, има за задача да изпрати рисковите пациенти в болница. Но тя класифицира пациентите с астма като пациенти с невисок риск.
В естествена обстановка хората с астма, които с развили пневмония, се пращат право в интензивното поделение и се подлагат на лекуване, което доста понижава риска от гибел. Машината с изкуствен интелект обаче приема, че задачата астма+пневмония значи невисок риск от гибел.
Напредъкът
Добрата вест е, че системи като DeepXplore съумяват да разпознаят десетки неточности, които по-рано са били неуловими със съществуващите технологии. Напредъкът може да помогне за създаване на по-точни и по-надеждни невронни мрежи. Това, съгласно Шан Лу – компютърен откривател от Университета в Чикаго – може „ на собствен ред да бъде потребно за доста научно-изследователски дисциплини и ежедневния ни живот ”.
Източник: technews.bg
КОМЕНТАРИ