Стряскащи новини за изкуствения интелект
Ситуации от последните месеци накараха доста хора да се замислят какъв брой положителни са системите за изкуствен интелект в всекидневието и до каква степен може да им се има доверие
Случаите на измами и „ произшествия ” с изкуствения разсъдък сее усилват с обезпокоително движение (снимка: CCO Public Domain)
Разработването на системи с изкуствен интелект е конкуренция, в която към този момент вземат участие софтуерни организации от целия свят. С напредването на технологиите напредва и творчеството на тези, които имат концепция по какъв начин да злоупотребят с всяка нова машинария, само че редом с това се усилва и броят на случаите на измами и „ произшествия ” с изкуствения разсъдък.
Моден дизайнер от Съединени американски щати, да вземем за пример, направи облекла, които лъжат системите за различаване на регистрационни номера на коли. По същото време трима консуматори на умни фурни се оплакаха, че печките им се включват сами измежду нощ. На фона на такива вести обаче пристигна и известието, че Съединени американски щати създават „ умни ” бойни ракети, които сами намират задачата си…
Тениска с регистрационни номера
Системите за автоматизирано разчитане на автомобилни регистрационни номера могат елементарно да бъдат излъгани с помощта на… фланелка. Или рокля. Или пък качулка. Това се видя на наскоро провелата се конференция за киберсигурност DefCon в Лас Вегас.
Подвигът е на стилната дизайнерка Кейт Роуз, която показа сбирка от своята фешън линия Adversarial Fashion. Роузи била въодушевена от собствен другар, откривателя от Фондация електронни граници Дейв Маас, който споделил, че четците за регистрационни номера „ четат какво ли не ”.
Дизайнерката решила да се заиграе с това. Тя основала огромна тениска с правоъгълници, на които са подредени букви с жълт цвят. За човешките очи това са смислени думи. Заедно те образуват откъс от така наречен Четвърта корекция на Конституцията на Съединени американски щати.
Ала за системата за автоматизирано четене на регистрационни номера дрехата наподобява е сбирка от регистрационни номера. Всички те ще бъдат добавени в базата данни на четеца. Системата „ вижда ” в дрехага регистрационен номер и, неизвестно по какъв начин, дефинира дори типа на транспортното средство – мотоциклет или автомобил.
Проектът на Роуз не е самоцел. Освен да покаже уязвимостта на системите с изкуствен интелект, тя се надява да направи потреблението на този тип наблюдаване по-малко дейно, по-скъпо и по-трудно за потребление без човешки контрол. Крайната цел е да се забави преходът към това, което Роуз разказва като „ събиране на данни за образно идентифициране на личността ”.
още по тематиката
„ Това е мощно инвазивна система за всеобщо наблюдаване, която нахлува във всяка част от живота ни, събирайки хиляди записи всяка минута. Но в случай че тя може да бъде заблудена от парче плат, тогава може би не би трябвало да се позволява да използваме системи, които елементарно могат да бъдат заблудени, за такива значими неща ”, споделя дизайнерката.
Друг опит с изкуствен интелект и регистрационни номера е дело на хакера Droogie, който разказва по какъв начин се е опитал да излъже системите за автоматизирано различаване на колите. Той сложил на регистрационната табела на автомобила си надписа „ NULL ” – кодът, употребен в редица известни системи за бази данни за показване на празен запис.
Вместо да стане незабележим за автоматизираните броячи Droogie отчел съвсем „ противоположния ” резултат: получил фишове за санкции в размер на общо 12 000. Всеки фиш за превишена скорост, за който системата не може да откри годен подобаващ регистрационен номер, бил приписван на „ празния запис ”. В последна сметка полицейското ръководство в Лос Анджелис отменило фишовете за хакера, само че посъветвали младежа да смени пробните си регистрационни номера.
Това са единствено част от образците за заигравка със системите за автоматизирано различаване. През 2016 година берлинският художник и технолог Адам Харви пък сътвори текстил, който лъже системите за лицево различаване. Платът е наименуван Hyphen-Labs – с шарка, която на пръв взор наподобява като нереална картина. Тя обаче е способна да заблуждава системите за лицево различаване.
Собственият живот на умните фурни
И в случай че дотук всичко наподобява съвсем като безобидна задявка (безобидна, до момента в който някой не получи фишове за 12 000 долара), то една друга обстановка от последните месеци накара доста хора да се замислят какъв брой положителни са системите за изкуствен интелект в всекидневието и до каква степен може да им се има доверие.
Оказа се, че най-малко три умни фурни от марката June са се присъединили сами, измежду нощ, без знанието на притежателите си, загрявайки се до оптималната допустима степен и оставайки включени в продължение на часове.
В първия докладван случай притежателят схванал, че фурната му е включена, когато станал към 6:30 сутринта. Оказало се, че тя работи с цялостни сили от 2:30 през нощта. Камерата в дома на индивида е записала по какъв начин фурната се включва и ненадейно „ светва ” измежду тъмната кухня. Собственикът споделя, че брачната половинка му е изпекла къс към 23:30 часа вечерта преди случката и е изключила фурната, преди фамилията да си легне.
Два други случая със среднощно включване на фурните се появиха в последния месец. Собственичката на едната машина разяснява, че постоянно изключва фурната напряко от контакта, само че във въпросната вечер не го сторила. Призори телефонът й зазвънял, уведомявайки я, че умната фурна към този момент е загрята и подготвена да пече храна. Дамата била мощно сюрпризирана.
Сега дамата пита реторично какво би станало, в случай че фурната й реши да се включи, до момента в който фамилията е надалеч от вкъщи по време на ваканцията си. Естествено, изключва я от контакта. Производителят на June отхвърли технологията да е отговорна за случилото се и съобщи, че повода за случаите е в самите притежатели.
Докъде можем да стигнем
На фона на всичко това много смущаващо звучи новината, че Съединени американски щати създават ракети с изкуствен интелект, които сами ще намират задачата си.
„ Американската войска създава артилерийски снаряд, екипиран с изкуствен интелект, кадърен на по-точен огън на далечни дистанции. C-DAEM ще може да намира и да се прицелва в движещи се транспортни средства ”.
Според описанието, този 155-мм артилерийски снаряд ще е кадърен да нападна движещи се бронирани „ цели ”. Снарядите ще бъдат изстрелвани посредством системата за командване и ръководство на армията, където наблюдаващ ще дефинира вида и местоположението на задачата. След изстрелването датчиците на снаряда ще служат за търсене в избрания регион и, в случай че бъде открита, задачата ще бъде атакувана.
Новата система ще работи в региони, в които GPS сигналът е прекомерно слаб или въобще не е разполагаем, с цел да подсигурява, че оръжието може да удари задачата си, оповестява New Scientist. Умните снаряди ще имат обсег до 60 км и ще могат да претърсват повърхност от над 28 кв. км в намиране на своите цели, написа още изданието.
Американската войска съобщи още, че планът C-DAEM включва „ създаване и даване на нови и усъвършенствани муниции, които ще обезпечат мощно гибелен резултат върху необятен набор от неподвижни или преносими комплицирани цели, където точната им позиция е с висока степен на неустановеност ”.
Случаите на измами и „ произшествия ” с изкуствения разсъдък сее усилват с обезпокоително движение (снимка: CCO Public Domain)
Разработването на системи с изкуствен интелект е конкуренция, в която към този момент вземат участие софтуерни организации от целия свят. С напредването на технологиите напредва и творчеството на тези, които имат концепция по какъв начин да злоупотребят с всяка нова машинария, само че редом с това се усилва и броят на случаите на измами и „ произшествия ” с изкуствения разсъдък.
Моден дизайнер от Съединени американски щати, да вземем за пример, направи облекла, които лъжат системите за различаване на регистрационни номера на коли. По същото време трима консуматори на умни фурни се оплакаха, че печките им се включват сами измежду нощ. На фона на такива вести обаче пристигна и известието, че Съединени американски щати създават „ умни ” бойни ракети, които сами намират задачата си…
Тениска с регистрационни номера
Системите за автоматизирано разчитане на автомобилни регистрационни номера могат елементарно да бъдат излъгани с помощта на… фланелка. Или рокля. Или пък качулка. Това се видя на наскоро провелата се конференция за киберсигурност DefCon в Лас Вегас.
Подвигът е на стилната дизайнерка Кейт Роуз, която показа сбирка от своята фешън линия Adversarial Fashion. Роузи била въодушевена от собствен другар, откривателя от Фондация електронни граници Дейв Маас, който споделил, че четците за регистрационни номера „ четат какво ли не ”.
Дизайнерката решила да се заиграе с това. Тя основала огромна тениска с правоъгълници, на които са подредени букви с жълт цвят. За човешките очи това са смислени думи. Заедно те образуват откъс от така наречен Четвърта корекция на Конституцията на Съединени американски щати.
Ала за системата за автоматизирано четене на регистрационни номера дрехата наподобява е сбирка от регистрационни номера. Всички те ще бъдат добавени в базата данни на четеца. Системата „ вижда ” в дрехага регистрационен номер и, неизвестно по какъв начин, дефинира дори типа на транспортното средство – мотоциклет или автомобил.
Проектът на Роуз не е самоцел. Освен да покаже уязвимостта на системите с изкуствен интелект, тя се надява да направи потреблението на този тип наблюдаване по-малко дейно, по-скъпо и по-трудно за потребление без човешки контрол. Крайната цел е да се забави преходът към това, което Роуз разказва като „ събиране на данни за образно идентифициране на личността ”.
още по тематиката
„ Това е мощно инвазивна система за всеобщо наблюдаване, която нахлува във всяка част от живота ни, събирайки хиляди записи всяка минута. Но в случай че тя може да бъде заблудена от парче плат, тогава може би не би трябвало да се позволява да използваме системи, които елементарно могат да бъдат заблудени, за такива значими неща ”, споделя дизайнерката.
Друг опит с изкуствен интелект и регистрационни номера е дело на хакера Droogie, който разказва по какъв начин се е опитал да излъже системите за автоматизирано различаване на колите. Той сложил на регистрационната табела на автомобила си надписа „ NULL ” – кодът, употребен в редица известни системи за бази данни за показване на празен запис.
Вместо да стане незабележим за автоматизираните броячи Droogie отчел съвсем „ противоположния ” резултат: получил фишове за санкции в размер на общо 12 000. Всеки фиш за превишена скорост, за който системата не може да откри годен подобаващ регистрационен номер, бил приписван на „ празния запис ”. В последна сметка полицейското ръководство в Лос Анджелис отменило фишовете за хакера, само че посъветвали младежа да смени пробните си регистрационни номера.
Това са единствено част от образците за заигравка със системите за автоматизирано различаване. През 2016 година берлинският художник и технолог Адам Харви пък сътвори текстил, който лъже системите за лицево различаване. Платът е наименуван Hyphen-Labs – с шарка, която на пръв взор наподобява като нереална картина. Тя обаче е способна да заблуждава системите за лицево различаване.
Собственият живот на умните фурни
И в случай че дотук всичко наподобява съвсем като безобидна задявка (безобидна, до момента в който някой не получи фишове за 12 000 долара), то една друга обстановка от последните месеци накара доста хора да се замислят какъв брой положителни са системите за изкуствен интелект в всекидневието и до каква степен може да им се има доверие.
Оказа се, че най-малко три умни фурни от марката June са се присъединили сами, измежду нощ, без знанието на притежателите си, загрявайки се до оптималната допустима степен и оставайки включени в продължение на часове.
В първия докладван случай притежателят схванал, че фурната му е включена, когато станал към 6:30 сутринта. Оказало се, че тя работи с цялостни сили от 2:30 през нощта. Камерата в дома на индивида е записала по какъв начин фурната се включва и ненадейно „ светва ” измежду тъмната кухня. Собственикът споделя, че брачната половинка му е изпекла къс към 23:30 часа вечерта преди случката и е изключила фурната, преди фамилията да си легне.
Два други случая със среднощно включване на фурните се появиха в последния месец. Собственичката на едната машина разяснява, че постоянно изключва фурната напряко от контакта, само че във въпросната вечер не го сторила. Призори телефонът й зазвънял, уведомявайки я, че умната фурна към този момент е загрята и подготвена да пече храна. Дамата била мощно сюрпризирана.
Сега дамата пита реторично какво би станало, в случай че фурната й реши да се включи, до момента в който фамилията е надалеч от вкъщи по време на ваканцията си. Естествено, изключва я от контакта. Производителят на June отхвърли технологията да е отговорна за случилото се и съобщи, че повода за случаите е в самите притежатели.
Докъде можем да стигнем
На фона на всичко това много смущаващо звучи новината, че Съединени американски щати създават ракети с изкуствен интелект, които сами ще намират задачата си.
„ Американската войска създава артилерийски снаряд, екипиран с изкуствен интелект, кадърен на по-точен огън на далечни дистанции. C-DAEM ще може да намира и да се прицелва в движещи се транспортни средства ”.
Според описанието, този 155-мм артилерийски снаряд ще е кадърен да нападна движещи се бронирани „ цели ”. Снарядите ще бъдат изстрелвани посредством системата за командване и ръководство на армията, където наблюдаващ ще дефинира вида и местоположението на задачата. След изстрелването датчиците на снаряда ще служат за търсене в избрания регион и, в случай че бъде открита, задачата ще бъде атакувана.
Новата система ще работи в региони, в които GPS сигналът е прекомерно слаб или въобще не е разполагаем, с цел да подсигурява, че оръжието може да удари задачата си, оповестява New Scientist. Умните снаряди ще имат обсег до 60 км и ще могат да претърсват повърхност от над 28 кв. км в намиране на своите цели, написа още изданието.
Американската войска съобщи още, че планът C-DAEM включва „ създаване и даване на нови и усъвършенствани муниции, които ще обезпечат мощно гибелен резултат върху необятен набор от неподвижни или преносими комплицирани цели, където точната им позиция е с висока степен на неустановеност ”.
Източник: technews.bg
КОМЕНТАРИ