Бивш инженер на Google: AI може случайно да започне война
Бивш инженер на Гугъл , който работи по скандално известния боен план за дронове на компанията, предизвести за зграждането на роботи убийци, оповестяват " Гардиън " и " Бизнес инсайдър ".
Лора Нолан работи в Гугъл четири години, когато през 2017 година е назначена за съдействието си с Министерството на защитата на Съединени американски щати , по по този начин наречения Project Maven. Project Maven е фокусиран върху потреблението на AI за възстановяване на военните дронове , построяването на AI системи , които биха могли да разграничат противников цели и да вършат разлика сред хора и обекти .
Гугъл замрази Project Maven след отвращение от чиновници , откакто хиляди чиновници подписаха петиция против плана и някои напуснаха в символ на митинг. Гугъл позволи договорът да изтече през март тази година. Самата Нолан подава оставка, откакто стана " все по-етично загрижена " за плана , изяснява тя.
" Въпреки че не бях директно забъркан в ускоряването на разпознаването на видео фрагменти, разбрах, че към момента съм част от веригата за убийства; това в последна сметка ще докара до ликвидиране на повече хора от американските военни тук-там като Афганистан ", добавя тя.
Нолан се притеснява, че идната стъпка оттатък оръжията с задействан AI като дронове може да бъде изцяло самостоятелно оръжие с изкуствен интелект . " Това са вероятни зверства и противозаконни убийства, даже съгласно законите на военните дейности, изключително в случай че са ситуирани стотици или хиляди от тези машини ", разяснява тя.
Служители на Гугъл напущат поради присъединяване във боен план с изкуствен интелект
Редица чиновници на компанията са обезпокоени от плана за потребление на изкуствен интелект
Тя добавя, че всевъзможни непредвидими фактори могат да объркат системите на оръжието по непредвидени способи , като непредвидени радарни сигнали, извънредно време или могат да се натъкнат на хора, носещи оръжие по аргументи, разнообразни от военни дейности, като да вземем за пример лов. " Машината няма прозорливостта или здравия разсъдък, които имат хората ".
Тестовете ще би трябвало да се проведат на бойното поле . " Другото ужасно нещо за тези самостоятелни военни системи е, че в действителност можете да ги тествате единствено като ги разгърнете в действителна бойна зона . Може би това се случва с руснаците сега в Сирия, кой знае? Това, което знаем, е, че в Организация на обединените нации Русия се опълчи на какъвто и да е контракт, камо ли да забрани тези оръжия ".
Въпреки че до момента никоя страна не е декларирала, че работи върху изцяло самостоятелни оръжия - роботи , доста от тях построяват все по-сложни AI, с цел да ги интегрират в своите военни елементи. Военноморските сили на Съединени американски щати разполагат с боен транспортен съд, кадърен да прекарва месеци в морето без екипаж, а Израел може да се похвали, че разполага с дронове, способни да разпознават и нападат задачите самостоятелно - въпреки че сега те изискват човешко позволение с цел да работят.
Нолан приканва страните да разгласят безапелационна възбрана на самостоятелните убиващи робот ,и сходно на конвенциите към потреблението на химическо оръжие .
" Много малко хора приказват за това, само че в случай че не внимаваме с едно или повече от тези оръжия , тези роботи убийци могат инцидентно да стартират война, да унищожат нуклеарна централа и да причинят всеобща гибел ", изяснява тя.
Съединени американски щати, Русия и Англия срещу възбрана на роботите убийци
Няколко страни се пробват да осуетят проекти за формулиране и налагане на превантивна интернационална забрана
Лора Нолан работи в Гугъл четири години, когато през 2017 година е назначена за съдействието си с Министерството на защитата на Съединени американски щати , по по този начин наречения Project Maven. Project Maven е фокусиран върху потреблението на AI за възстановяване на военните дронове , построяването на AI системи , които биха могли да разграничат противников цели и да вършат разлика сред хора и обекти .
Гугъл замрази Project Maven след отвращение от чиновници , откакто хиляди чиновници подписаха петиция против плана и някои напуснаха в символ на митинг. Гугъл позволи договорът да изтече през март тази година. Самата Нолан подава оставка, откакто стана " все по-етично загрижена " за плана , изяснява тя.
" Въпреки че не бях директно забъркан в ускоряването на разпознаването на видео фрагменти, разбрах, че към момента съм част от веригата за убийства; това в последна сметка ще докара до ликвидиране на повече хора от американските военни тук-там като Афганистан ", добавя тя.
Нолан се притеснява, че идната стъпка оттатък оръжията с задействан AI като дронове може да бъде изцяло самостоятелно оръжие с изкуствен интелект . " Това са вероятни зверства и противозаконни убийства, даже съгласно законите на военните дейности, изключително в случай че са ситуирани стотици или хиляди от тези машини ", разяснява тя.
Служители на Гугъл напущат поради присъединяване във боен план с изкуствен интелект
Редица чиновници на компанията са обезпокоени от плана за потребление на изкуствен интелект
Тя добавя, че всевъзможни непредвидими фактори могат да объркат системите на оръжието по непредвидени способи , като непредвидени радарни сигнали, извънредно време или могат да се натъкнат на хора, носещи оръжие по аргументи, разнообразни от военни дейности, като да вземем за пример лов. " Машината няма прозорливостта или здравия разсъдък, които имат хората ".
Тестовете ще би трябвало да се проведат на бойното поле . " Другото ужасно нещо за тези самостоятелни военни системи е, че в действителност можете да ги тествате единствено като ги разгърнете в действителна бойна зона . Може би това се случва с руснаците сега в Сирия, кой знае? Това, което знаем, е, че в Организация на обединените нации Русия се опълчи на какъвто и да е контракт, камо ли да забрани тези оръжия ".
Въпреки че до момента никоя страна не е декларирала, че работи върху изцяло самостоятелни оръжия - роботи , доста от тях построяват все по-сложни AI, с цел да ги интегрират в своите военни елементи. Военноморските сили на Съединени американски щати разполагат с боен транспортен съд, кадърен да прекарва месеци в морето без екипаж, а Израел може да се похвали, че разполага с дронове, способни да разпознават и нападат задачите самостоятелно - въпреки че сега те изискват човешко позволение с цел да работят.
Нолан приканва страните да разгласят безапелационна възбрана на самостоятелните убиващи робот ,и сходно на конвенциите към потреблението на химическо оръжие .
" Много малко хора приказват за това, само че в случай че не внимаваме с едно или повече от тези оръжия , тези роботи убийци могат инцидентно да стартират война, да унищожат нуклеарна централа и да причинят всеобща гибел ", изяснява тя.
Съединени американски щати, Русия и Англия срещу възбрана на роботите убийци
Няколко страни се пробват да осуетят проекти за формулиране и налагане на превантивна интернационална забрана
Източник: news.bg
КОМЕНТАРИ