Автономните коли „откриват по-зле деца и пешеходци с по-тъмна кожа“
Изследователи от Кралския лицей в Лондон приканват за по-строги регулации след възрастови и расови несъответствия в самостоятелните системи с изкуствен интелект /ИИ/. Причината - по-рано този месец Cruise AV /Cruise е дъщерно сдружение на General Motors/ взе участие в злополука с транспортно средство за незабавно реагиране. В изказването си Cruise сподели, че неговият AV е „ позитивно разпознал “ спешното транспортно средство, само че границите на съответното кръстовище вършат „ образната идентификация по-предизвикателна “, защото е „ доста затворено от здания “.
Въпреки това редица автомобилни производители не престават да упорстват за създаване на самостоятелни транспортни средства (AV), което значи, че проблемите към сигурността на пешеходците и водачите от ден на ден ще излизат на напред във времето.
В скорошно изследване откриватели от Кралския лицей в Лондон разкриха „ съществени “ възрастови и расови отклонения в системите за разкриване на самостоятелни транспортни средства. Проучването занапред ще бъде рецензирано, само че резултатите от него са тревожни. Изследователи от катедрата по информатика в King`s College London са оценили осем системи за разкриване на пешеходци, захранвани с изкуствен интелект (AI), употребявани в проучванията на самостоятелни транспортни средства.
Изследователите от Кралския лицей в Лондон са маркирали 8311 изображения с 16 070 етикета за пол, 20 115 етикета за възраст и 3513 етикета за цвета на кожата. Те са открили посредством тестване на тези над 8000 изображения, че точността на разкриване за възрастни е съвсем 20% по-висока, в сравнение с за деца, и малко над 7,5% по-точна за светлокожи пешеходци спрямо по-тъмнокожи пешеходци. Причината за това противоречие е, че главните сбирки от изображения на пешеходци, които се употребяват за образование на AI системите, употребявани при разкриване на пешеходци – системата, която споделя на безпилотна кола дали се доближава до пешеходец, показват повече хора със светла кожа, в сравнение с с тъмна кожа.
Резултатът от този несиметричен източник на данни е „ липса на правдивост “ в AI системата, която се употребява за образование, съгласно откривателите. Един значим фактор, който би трябвало да се подчертае, е, че системите, които са тествани, не принадлежат на компании за коли без водачи, защото това се смята за „ лична информация “ и затова не е налична за обществеността.
Информацията идва от фирмите за коли без водачи, които употребяват съществуващи модели с отворен код, тъй че резултатите от проучването сигурно важат и за системите на производителите, които се оферират и на самостоятелни купувачи.
Изследователите също откриха, че опасноста за пешеходците с тъмна кожа се усилва доста при сюжети с невисок контрастност и ниска бляскавост, създавайки повече проблеми при шофиране през нощта. Тяхната вяра е, че производителите ще бъдат по-прозрачни, когато става въпрос за това по какъв начин се образоват техните търговски AI модели за разкриване на пешеходци, както и по какъв начин се показват, преди да излязат на улицата.
Въпреки това редица автомобилни производители не престават да упорстват за създаване на самостоятелни транспортни средства (AV), което значи, че проблемите към сигурността на пешеходците и водачите от ден на ден ще излизат на напред във времето.
В скорошно изследване откриватели от Кралския лицей в Лондон разкриха „ съществени “ възрастови и расови отклонения в системите за разкриване на самостоятелни транспортни средства. Проучването занапред ще бъде рецензирано, само че резултатите от него са тревожни. Изследователи от катедрата по информатика в King`s College London са оценили осем системи за разкриване на пешеходци, захранвани с изкуствен интелект (AI), употребявани в проучванията на самостоятелни транспортни средства.
Изследователите от Кралския лицей в Лондон са маркирали 8311 изображения с 16 070 етикета за пол, 20 115 етикета за възраст и 3513 етикета за цвета на кожата. Те са открили посредством тестване на тези над 8000 изображения, че точността на разкриване за възрастни е съвсем 20% по-висока, в сравнение с за деца, и малко над 7,5% по-точна за светлокожи пешеходци спрямо по-тъмнокожи пешеходци. Причината за това противоречие е, че главните сбирки от изображения на пешеходци, които се употребяват за образование на AI системите, употребявани при разкриване на пешеходци – системата, която споделя на безпилотна кола дали се доближава до пешеходец, показват повече хора със светла кожа, в сравнение с с тъмна кожа.
Резултатът от този несиметричен източник на данни е „ липса на правдивост “ в AI системата, която се употребява за образование, съгласно откривателите. Един значим фактор, който би трябвало да се подчертае, е, че системите, които са тествани, не принадлежат на компании за коли без водачи, защото това се смята за „ лична информация “ и затова не е налична за обществеността.
Информацията идва от фирмите за коли без водачи, които употребяват съществуващи модели с отворен код, тъй че резултатите от проучването сигурно важат и за системите на производителите, които се оферират и на самостоятелни купувачи.
Изследователите също откриха, че опасноста за пешеходците с тъмна кожа се усилва доста при сюжети с невисок контрастност и ниска бляскавост, създавайки повече проблеми при шофиране през нощта. Тяхната вяра е, че производителите ще бъдат по-прозрачни, когато става въпрос за това по какъв начин се образоват техните търговски AI модели за разкриване на пешеходци, както и по какъв начин се показват, преди да излязат на улицата.
Източник: auto-press.net
КОМЕНТАРИ