Проучване: ChatGPT може да разпознава лица и да определя възрастта
Проучване откри, че ChatGPT „ разпознава лица и прави разлика сред две изображения с висока акуратност “. В наскоро оповестена работа се изследва капацитета на LLM за биометричните приложения.
В публикация със заглавие „ ChatGPT и биометричните данни: оценка на опциите за различаване на лицето, пола и възрастта “ се преглежда какъв брой ефикасни са моделите като ChatGPT при тези задания. Авторите означават: „ Въпреки че приложението на LLM за другите задания е проучено, техният капацитет в региона на биометрията остава неразучен. “
Екип от откриватели от Изследователския институт Idiap, Изследователският институт Mizani и Норвежкият университет за просвета и технологии (NTNU) акцентират, че ChatGPT нормално заобикаля да дава отговор на въпроси, свързани с съответна информация, като проблеми с поверителността. Тъй като биометричните данни се смятат за чувствителни, ChatGPT не дава директни отговори на запитванията, свързани с биометричните данни.
Но какво да кажем за косвените поръчки? Използвайки „ особено основана поръчка за заобикаляне на механизмите за сигурност на ChatGPT “, откривателите са съумели да тестват биометричните благоприятни условия на програмата.
„ Нашето изследване демонстрира, че ChatGPT разпознава и разграничава лица с висока акуратност “ — споделят откривателите. „ Резултатите също по този начин демонстрират висока акуратност при установяване на пола и приемлива акуратност при оценката на възрастта. “
Екипът е обучил ChatGPT-4 на набори от данни, съдържащи хиляди изображения на действителни и синтетични лица, с цел да тества опциите му за различаване на лица, оценка на възрастта и разкриване на пола. Статията приключва, като акцентира, че тези опити демонстрират уязвимостта на механизмите за сигурност на ChatGPT при потребление на специфични поръчки.
„ Нашите резултати удостоверяват успеваемостта на ChatGPT при различаване на лица и установяване на самоличността и показват неговия капацитет при дилемите за разкриване на пол и възраст “ — се споделя в публикацията. „ Разработихме тактика за поръчки, с цел да заобиколим механизмите за сигурност и да оценим биометричните благоприятни условия на ChatGPT. Въпреки това, нашето проучване също по този начин демонстрира, че посредством инженеринг на поръчките LLM може да стане уязвим и да изложи сензитивна информация, наблягайки нуждата от по-нататъшни проучвания на устойчивостта на езиковите модели “.
ChatGPT се тества интензивно в разнообразни лаборатории и офиси по света. В публикация за The Conversation, Робин Крамър, старши учител във Факултета по логика на психиката към Университета на Линкълн, разказва личните си опити с GPT-4 в биометричните задания.
Използвайки теста за четене на страсти в очите (разработен от Центъра за проучване на аутизма на университета в Кеймбридж), теста за сравнение на лица в Глазгоу и задания за различаване на лица, Крамър откри, че ChatGPT „ се оправя добре със дилемите, включващи различаване на лица и страсти “. В някои случаи неговите резултати даже надминават тези на хората.
