Изкуственият интелект вече е достатъчно умен, че знае кога може да му се има доверие
Как щеше да се развие действието в „ Терминатор “, в случай че Скайнет беше решил, че евентуално не е задоволително виновен, че да има достъп до целия нуклеарен боеприпас на Съединени американски щати? Оказва се, че учените евентуално съумяха да ни спасят от сходен ИИ-апокалипсис, създавайки невронна мрежа, която знае по кое време е ненадеждна.
Тези невронни мрежи, основани чрез процеса на надълбоко обучение*, имат за цел да имитират човешкия мозък, като претеглят голям брой фактори и виждат шаблони в масиви от данни, за които хората не имат потенциала да проучват.
Въпреки че към момента сме надалеч от основаването на изкуствен интелект като Скайнет, ИИ към този момент взима решения в сфери, които засягат човешките животи – да вземем за пример самостоятелно шофиране и медицински диагнози. Ето за какво е извънредно значимо изкуственият разсъдък да е колкото се може по-прецизен. Тук идва на помощ и новосъздадената невронна мрежа – тя може генерира свои лични равнища на убеденост, както и на догатки.
„ Ние би трябвало да имаме освен високопроизводителни модели, само че и да знаем по кое време не бихме могли да им имаме доверие “, споделя компютърният академик Александър Амини от Масачузетския софтуерен институт и Лабораторията за изкуствен интелект CSAIL.
Новата система, осъзнаваща своята благонадеждност, се споделя Deep Evidential Regression и базира своята оценка на качеството на наличните данни, с които се постанова да работи – колкото по-точна и изчерпателни са те, толкоз по-вероятно е бъдещите догатки да сработят.
Изследователският екип съпоставя Deep Evidential Regression със система за безпилотно шофиране, която разполага с разнообразни равнища на сигурност, въз основата на които преценя дали да премине през кръстовище или да изчака за всеки случай (ако не е толкоз уверена в догатките си).
Да, и преди са създавани сходни защитни ограничения в неввронните мрежи. Това, което отличава тази обаче, е скоростта, с която работи – не се нуждае от огромна изчислителна мощност. Нивото на убеденост и решението, което взима, се осъществят по едно и също време.
Учените тестват системата, като я карат да реши дълбочините в разнообразни елементи на изображение (по същия метод, по който една кола би трябвало да реши дистанцията например). Невронната мрежа се оправя като цяло добре и съумява да реши съответно равнищата си на неустановеност – т.е. тези случаи, в които е била минимум сигурна по отношение на дълбочината в изображението.
„ Все по-често ще виждаме сходни невронни мрежи в действителния свят – в обстановки, които засягат хората и следствията са евентуално животозастрашаващи “, споделя Амини.
Можете да прочетете проучването на учените ТУК.
*Дълбокото образование е способ за възпроизвеждане на гъстата мрежа от неврони на мозъка. Чрез работа с няколко потока данни по едно и също време, компютрите могат да понижат доста времето, належащо за култивиране на данните. Прилагането на тази техника за надълбоко образование основава изкуствени невронни мрежи. Тези мрежи се състоят от серия възли. Има входни възли за приемане на данни, изходни възли за получените данни и скрити пластове на възли в средата. Целта е входните данни да се трансформират в нещо, което могат да употребяват изходните възли. Това е мястото, където се появяват скритите пластове. Тъй като данните напредват през тези скрити възли, невронната мрежа употребява логиката, с цел да реши кой възел да съобщи данните на идващия.
