Експерти: Изкуственият интелект е опасен, но няма място за паника
Ако сте предизвестени, сте по-малко уязвими, заключава отчет за злоумишленото потребление на ИИ
Изкуственият разсъдък може да ни навреди още в околните пет години, само че сигурно не би трябвало да се паникьосваме или да изоставим вярата, споделят учени
Когато приказваме за заплахите, подбудени от изкуствения разсъдък, акцентът нормално се слага върху нежеланите странични резултати. Безпокоим се, че може инцидентно да създадем свръхинтелигентен изкуствен интелект и да забравим да го програмираме със съвест или, че ще внедрим логаритми за наказателно гонене, които са „ попили ” расистките пристрастия от техните обучителни данни. Но това е единствено половината от историята…
Какво ще кажете за хората, които интензивно желаят да употребяват изкуствения разсъдък за аморални, незаконни или злонамерени цели? Не е ли по-вероятно те да причинят проблеми, а и допустимо ли е това да се случи по-скоро? Отговорът е „ да ”, по мнението на множеството специалисти от научни институти, включително от института „ Бъдещето на човечеството ”, Центъра за проучване на съществуващия риск и подкрепената от Елън Мъск организация с нестопанска цел OpenAI. Твърде доста „ да ”.
В отчет, оповестен преди няколко дни и озаглавен „ Злоумишленото потребление на изкуствения разсъдък: прогнози, защитни ограничения и понижаване на последствията ”, откривателите разкриват някои от методите, по които може да бъде употребен ИИ, с цел да ни аргументи несгоди в идващите пет години, и какво можем да създадем, с цел да спрем това. И макар че ИИ може да даде опция за осъществяване на някои много неприятни нови офанзиви, съавторът на отчета Майлс Брундейдж от института „ Бъдещето на човечеството ” счита, че сигурно не би трябвало да се паникьосваме или да изоставим вярата.
„ Предпочитам да взема страната на оптимистите, което значи, че бихме могли да създадем доста ”, разяснява Брундейдж. „ Въпросът не е да рисуваме една апокалиптична картина – има доста защитни дейности, които могат да бъдат създадени и доста неща, които можем да научим. Не мисля, че обстановката е безнадеждна като цяло, само че виждам този отчет като апел за деяние ”, споделя той.
Докладът е много просторен, само че като цяло се концентрира върху няколко основни метода, по които ИИ ще ускори заканите както за цифровите, по този начин и за физическите системи за сигурност, а и ще сътвори напълно нови рискове. Документът също по този начин предлага пет рекомендации за това по какъв начин да се борим с тези проблеми – в това число по какъв начин инженерите, създаващи ИИ, да бъдат по-информирани и осъзнаващи вероятните злонамерени използва на техните открития. Наложително е да се стартира нов разговор сред политиците и университетските среди, тъй че държавните управления и правоприлагащите органи да не се окажат неподготвени.
още по тематиката
Какви са обаче евентуалните закани? Една от най-важните измежду тях е, че ИИ трагично ще понижи разноските за избрани офанзиви , позволявайки на неприятните „ артисти ” да автоматизират задания, които преди този момент са претендирали човешка интервенция и труд.
Да вземем да вземем за пример една фишинг офанзива, при която на обособени хора се изпращат известия, особено създадени, с цел да ги подмамят да дават своите пароли за сигурност (фалшив имейл от банката ви, да вземем за пример, или от човек, който наподобява е ваш остарял познат). И точно тук ИИ може да автоматизира огромна част от работата , да очертае обществената и професионалната мрежа от хора и да генерира известията.
В момента се поставят доста старания за основаване на реалистични и ангажиращи чатботове. Подобна активност може да бъде употребена за разработка на чатбот, представящ се за най-хубавия ви другар, който внезапно, по някаква причина, в действителност желае да знае вашата имейл ключова дума.
Този тип офанзива звучи комплицирано, само че главното тук е, че откакто един път сте основали софтуера, с цел да извършите всичко това, можете да го употребявате още веднъж и още веднъж без спомагателни разноски.
Фишинг имейлите към този момент са нанесли задоволително вреди – те са виновни за приключването на фотосите на звездите от iCloud през 2014 година, както и за хакването на частните имейли от шефа на акцията на Хилъри Клинтън – Джон Подеста. Последното освен оказа въздействие върху президентските избори в Съединени американски щати през 2016 година, само че и подхрани редица тайни теории като да вземем за пример „ Пицагейт ”, които съвсем не убиха хора. Помислете какво може да направи един автоматизиран ИИ фишинг измежду механически необразованите държавни чиновници.
Втората огромна тематика, която отчетът повдига, е, че ИИ ще добави нови измерения към съществуващите закани. В същия образец за фишинга ИИ може да бъде употребен освен за генериране на имейли и текстови известия, само че и за подправени аудио и видео материали. Вече станахме очевидци на това по какъв начин ИИ може да се употребява, с цел да имитира гласа на дадена „ цел ”, откакто изучи единствено няколко минути от записано слово.
Разбира се, съществува цяла гама от други зловредни практики, които ИИ може да ускори . Като начало – политическа операция и агитация (отново области, където подправените видео и аудио материали биха могли да съставляват голям проблем), само че също по този начин слагане под наблюдаване, ориентирано особено към малцинствата. Интересен образец за това е Китай, където камери за различаване на лица и за следене на хора трансфораха един граничен район, обитаем значително с мюсюлманско малцинство, в „ област на тотално наблюдаване ”.
Това са единствено няколко образеца за способността на ИИ да се трансформира в опасност. Той замества хората, които наблюдават човешките потоци , трансформирайки камерите за видеонаблюдение от пасивни в дейни наблюдаващи, позволявайки им да категоризират автоматизирано човешкото държание. „ Мащабността, в частност, е нещо, което не е получило задоволително внимание ”, споделя Брундейдж. „ Тук не имам предвид единствено обстоятелството, че ИИ може да извършва избрани задания на равнище човек, само че че това може да бъде увеличено до големи размери ”.
Докладът също по този начин акцентира и изцяло новите опасности, които ИИ основава. Авторите обрисуват редица вероятни сюжети, в това число и такива, при които терористите вграждат бомба в робот за разчистване и я внасят скрито в обещано министерство. Роботът „ употребява ” вграденото си машинно зрение, с цел да наблюдава даден политик, и когато той е наоколо, бомбата се взривява. Този сюжет се възползва от новите артикули, които ИИ прави вероятни (роботите за почистване), както и от самостоятелните функционалности (например, следенето, основано на машинното зрение).
Такива сюжети може да наподобяват малко фантастично, само че ние в действителност започваме да ставаме очевидци на първите нови офанзиви, вероятни с помощта на ИИ . Технологията за промяна на лица се употребява за основаване на по този начин наречените „ дийпфейкс ” – слагане на лицата на звезди върху нецензурен клипове без тяхното единодушие. И макар, че до този миг не е имало съществени сходни случаи, знае се, че тези, които вземат участие в основаването на такова наличие, желаят да го тестват за хора, които познават, за основаване на идеални предпоставки за тормоз и изнудване.
Тези образци са единствено част от отчета, а целият документ слага въпроса какво би трябвало да се направи? Решенията елементарно могат да бъдат обрисувани, само че ще бъде предизвикателство да бъдат следвани. Докладът прави пет съществени рекомендации:
С други думи – повече диалог и повече дейности.
„ Със сигурност има интерес ”, споделя Брундейдж по отношение на присъединяване на държавното управление в разискването на тези тематики. „ Но към момента оставаме с чувството, че би трябвало да се провеждат повече полемики, с цел да се разбере кои са най-критичните закани и кои са най-практичните решения ”, добавя той.
Не е ясно какъв брой последователно ще бъде всичко това – дали ще има огромно пагубно събитие или нещата ще се случват постепенно , което ще ни даде доста благоприятни условия да се приспособяваме. „ Но тъкмо по тази причина в този момент повдигаме тези въпроси ”, споделя Брунейдж.
Изкуственият разсъдък може да ни навреди още в околните пет години, само че сигурно не би трябвало да се паникьосваме или да изоставим вярата, споделят учени
Когато приказваме за заплахите, подбудени от изкуствения разсъдък, акцентът нормално се слага върху нежеланите странични резултати. Безпокоим се, че може инцидентно да създадем свръхинтелигентен изкуствен интелект и да забравим да го програмираме със съвест или, че ще внедрим логаритми за наказателно гонене, които са „ попили ” расистките пристрастия от техните обучителни данни. Но това е единствено половината от историята…
Какво ще кажете за хората, които интензивно желаят да употребяват изкуствения разсъдък за аморални, незаконни или злонамерени цели? Не е ли по-вероятно те да причинят проблеми, а и допустимо ли е това да се случи по-скоро? Отговорът е „ да ”, по мнението на множеството специалисти от научни институти, включително от института „ Бъдещето на човечеството ”, Центъра за проучване на съществуващия риск и подкрепената от Елън Мъск организация с нестопанска цел OpenAI. Твърде доста „ да ”.
В отчет, оповестен преди няколко дни и озаглавен „ Злоумишленото потребление на изкуствения разсъдък: прогнози, защитни ограничения и понижаване на последствията ”, откривателите разкриват някои от методите, по които може да бъде употребен ИИ, с цел да ни аргументи несгоди в идващите пет години, и какво можем да създадем, с цел да спрем това. И макар че ИИ може да даде опция за осъществяване на някои много неприятни нови офанзиви, съавторът на отчета Майлс Брундейдж от института „ Бъдещето на човечеството ” счита, че сигурно не би трябвало да се паникьосваме или да изоставим вярата.
„ Предпочитам да взема страната на оптимистите, което значи, че бихме могли да създадем доста ”, разяснява Брундейдж. „ Въпросът не е да рисуваме една апокалиптична картина – има доста защитни дейности, които могат да бъдат създадени и доста неща, които можем да научим. Не мисля, че обстановката е безнадеждна като цяло, само че виждам този отчет като апел за деяние ”, споделя той.
Докладът е много просторен, само че като цяло се концентрира върху няколко основни метода, по които ИИ ще ускори заканите както за цифровите, по този начин и за физическите системи за сигурност, а и ще сътвори напълно нови рискове. Документът също по този начин предлага пет рекомендации за това по какъв начин да се борим с тези проблеми – в това число по какъв начин инженерите, създаващи ИИ, да бъдат по-информирани и осъзнаващи вероятните злонамерени използва на техните открития. Наложително е да се стартира нов разговор сред политиците и университетските среди, тъй че държавните управления и правоприлагащите органи да не се окажат неподготвени.
още по тематиката
Какви са обаче евентуалните закани? Една от най-важните измежду тях е, че ИИ трагично ще понижи разноските за избрани офанзиви , позволявайки на неприятните „ артисти ” да автоматизират задания, които преди този момент са претендирали човешка интервенция и труд.
Да вземем да вземем за пример една фишинг офанзива, при която на обособени хора се изпращат известия, особено създадени, с цел да ги подмамят да дават своите пароли за сигурност (фалшив имейл от банката ви, да вземем за пример, или от човек, който наподобява е ваш остарял познат). И точно тук ИИ може да автоматизира огромна част от работата , да очертае обществената и професионалната мрежа от хора и да генерира известията.
В момента се поставят доста старания за основаване на реалистични и ангажиращи чатботове. Подобна активност може да бъде употребена за разработка на чатбот, представящ се за най-хубавия ви другар, който внезапно, по някаква причина, в действителност желае да знае вашата имейл ключова дума.
Този тип офанзива звучи комплицирано, само че главното тук е, че откакто един път сте основали софтуера, с цел да извършите всичко това, можете да го употребявате още веднъж и още веднъж без спомагателни разноски.
Фишинг имейлите към този момент са нанесли задоволително вреди – те са виновни за приключването на фотосите на звездите от iCloud през 2014 година, както и за хакването на частните имейли от шефа на акцията на Хилъри Клинтън – Джон Подеста. Последното освен оказа въздействие върху президентските избори в Съединени американски щати през 2016 година, само че и подхрани редица тайни теории като да вземем за пример „ Пицагейт ”, които съвсем не убиха хора. Помислете какво може да направи един автоматизиран ИИ фишинг измежду механически необразованите държавни чиновници.
Втората огромна тематика, която отчетът повдига, е, че ИИ ще добави нови измерения към съществуващите закани. В същия образец за фишинга ИИ може да бъде употребен освен за генериране на имейли и текстови известия, само че и за подправени аудио и видео материали. Вече станахме очевидци на това по какъв начин ИИ може да се употребява, с цел да имитира гласа на дадена „ цел ”, откакто изучи единствено няколко минути от записано слово.
Разбира се, съществува цяла гама от други зловредни практики, които ИИ може да ускори . Като начало – политическа операция и агитация (отново области, където подправените видео и аудио материали биха могли да съставляват голям проблем), само че също по този начин слагане под наблюдаване, ориентирано особено към малцинствата. Интересен образец за това е Китай, където камери за различаване на лица и за следене на хора трансфораха един граничен район, обитаем значително с мюсюлманско малцинство, в „ област на тотално наблюдаване ”.
Това са единствено няколко образеца за способността на ИИ да се трансформира в опасност. Той замества хората, които наблюдават човешките потоци , трансформирайки камерите за видеонаблюдение от пасивни в дейни наблюдаващи, позволявайки им да категоризират автоматизирано човешкото държание. „ Мащабността, в частност, е нещо, което не е получило задоволително внимание ”, споделя Брундейдж. „ Тук не имам предвид единствено обстоятелството, че ИИ може да извършва избрани задания на равнище човек, само че че това може да бъде увеличено до големи размери ”.
Докладът също по този начин акцентира и изцяло новите опасности, които ИИ основава. Авторите обрисуват редица вероятни сюжети, в това число и такива, при които терористите вграждат бомба в робот за разчистване и я внасят скрито в обещано министерство. Роботът „ употребява ” вграденото си машинно зрение, с цел да наблюдава даден политик, и когато той е наоколо, бомбата се взривява. Този сюжет се възползва от новите артикули, които ИИ прави вероятни (роботите за почистване), както и от самостоятелните функционалности (например, следенето, основано на машинното зрение).
Такива сюжети може да наподобяват малко фантастично, само че ние в действителност започваме да ставаме очевидци на първите нови офанзиви, вероятни с помощта на ИИ . Технологията за промяна на лица се употребява за основаване на по този начин наречените „ дийпфейкс ” – слагане на лицата на звезди върху нецензурен клипове без тяхното единодушие. И макар, че до този миг не е имало съществени сходни случаи, знае се, че тези, които вземат участие в основаването на такова наличие, желаят да го тестват за хора, които познават, за основаване на идеални предпоставки за тормоз и изнудване.
Тези образци са единствено част от отчета, а целият документ слага въпроса какво би трябвало да се направи? Решенията елементарно могат да бъдат обрисувани, само че ще бъде предизвикателство да бъдат следвани. Докладът прави пет съществени рекомендации:
С други думи – повече диалог и повече дейности.
„ Със сигурност има интерес ”, споделя Брундейдж по отношение на присъединяване на държавното управление в разискването на тези тематики. „ Но към момента оставаме с чувството, че би трябвало да се провеждат повече полемики, с цел да се разбере кои са най-критичните закани и кои са най-практичните решения ”, добавя той.
Не е ясно какъв брой последователно ще бъде всичко това – дали ще има огромно пагубно събитие или нещата ще се случват постепенно , което ще ни даде доста благоприятни условия да се приспособяваме. „ Но тъкмо по тази причина в този момент повдигаме тези въпроси ”, споделя Брунейдж.
Източник: technews.bg
КОМЕНТАРИ