Google съобщи, че новото семейство на нейния изкуствен интелект притежава

Гугъл заяви, че новото семейство на нейния изкуствен интелект има забавната дарба да „ разпознава “ страстите. Според компанията показаната в четвъртък нова ИИ фамилия PaliGemma 2 може да проучва по нов метод изображенията, което разрешава на ИИ да генерира описания и да дава отговор на въпроси за хората, които „ вижда “ на фотосите.

„ PaliGemma 2 генерира подробни, контекстуално съответстващи описания за облици, като отива оттатък елементарното идентифициране на обектите, с цел да опише дейностите, страстите и цялостното изложение за дадена сцена “, написа Гугъл в формалния си блог.

За да разпознава страстите, PaliGemma 2 би трябвало да бъде надлежно конфигурирана. Без него тя не мое да работи. Експертите, с които разговаряха репортерите от портала TechCrunch, обаче са разтревожени от вероятността за появяването на обществено наличен детектор на страсти.

„ Аз съм доста смутен от това. За мен е проблематично да се мисли, че можем да „ четем “ страстите на хората. Това е все едно да поискате съвет от Magic 8 Ball (Magic 8 Ball е известна играчка) за съвет по съществени въпроси “, съобщи пред TechCrunch Сандра Вахтер, професор по нравственос на данните и изкуствен интелект в Оксфордския институт за интернет проучвания.

Технологичните ИИ компании от години се пробват да основат изкуствен интелект, който да може да открива прочувствени аспекти във всичко – от образованието по продажби до задания, свързани с попречване на злополуки.

Разработването на множеството детектори на страсти се основава на ранната работа на американския психолог Пол Екман, който допуска, че хората имат шест съществени типа страсти: яд, изненада, омерзение, наслаждение, боязън и горест. Последвалите проучвания по този въпрос обаче оспориха хипотезата на Екман и демонстрираха, че съществуват съществени разлики в метода, по който членовете на другите пластове на обществото показват своите усеща.

„ Определянето на страстите в някакъв повсеместен общ случай е невероятно, тъй като хората претърпяват страстите по комплициран метод. Струва ни се, че като гледаме хората, можем да определим по какъв начин се усещат те. И тази техника е тествана през годините от разнообразни хора, в това число от разследващите организации и рекламните компании. Сигурен съм, че в някои случаи е изцяло допустимо да се открият някои общи черти, само че не за това става въпрос и не е нещо, за което в последна сметка може да се откри повсеместен отговор “, споделя пред TechCrunch Майк Кук, откривател, профилиран в региона на изкуствения разсъдък в Лондонския университет „ Куин Мери “.

Експертите считат, че системите за различаване на страсти нормално са ненадеждни и пристрастни заради настройките на самите разработчици на такива системи. В изследване на MIT от 2020 година учените демонстрират, че моделите за разбор на лицето могат да образуват непреднамерени желания към избрани изражения на лицето, като да вземем за пример усмивката. По-новите проучвания демонстрират, че моделите за разбор на страстите приписват повече отрицателни страсти на лицата на чернокожите хора, в сравнение с лицата на белите хора.

Гугъл декларира, че е провела „ обширни проби “ за оценка на демографските пристрастия на PaliGemma 2 и е открила „ доста по-ниски равнища на токсичност и нецензурни изрази “ спрямо индустриалните примери. Компанията обаче не дава цялостен лист на употребяваните примери, нито показва какви типове проби са били извършени.

Единственият бенчмарк, който Гугъл разкри, е FairFace, който се състои от набор от десетки хиляди портрети на хора. Компанията твърди, че PaliGemma 2 се е показала добре при оценката на FairFace. Но някои специалисти подлагат на критика примера за неговата пристрастност, като означават, че FairFace не показва всички расови групи, а единствено няколко.

„ Тълкуването на страстите е много индивидуален въпрос, който надвишава потреблението на образни средства и е тясно обвързван с персоналния и културния подтекст. Като оставим настрани изкуствения разсъдък, проучванията демонстрират, че не можем да разпознаваме страстите единствено по чертите на лицето “, споделя Хайди Кхлааф, основен академик по изкуствен интелект в AI Now Institute, организация с нестопанска цел, която учи обществените последствия от изкуствения разсъдък.

В Европейски Съюз потреблението на системи за различаване на страсти провокира съществени въпроси от страна на регулаторните органи. Законът за изкуствения разсъдък, главният законодателен акт на Европейски Съюз в тази сфера, не разрешава на учебните заведения и работодателите да употребяват детектори на страсти. Той обаче не не разрешава потреблението им от правоприлагащите органи.

Основното терзание на специалистите във връзка с моделите с отворен код за изкуствен интелект като PaliGemma 2, които се популяризират от най-различни източници, в това число платформата за създаване на изкуствен интелект Hugging Face, е капацитетът за корист и непозволено потребление, което може да докара до действителни вреди.

„ Ако тази по този начин наречена „ прочувствена идентификация “ се основава на псевдонаучни пристрастия и предубеждения, съществува забележителен риск от последствия за това по какъв начин тази дарба може да се употребява за спомагателна и подправена дискриминация на разнообразни маргинализирани групи от страна на правоприлагащите органи, работодателите, граничните управляващи и така нататък “, споделя Хлааф.

От друга страна, Гугъл декларира, че компанията тества своите модели на изкуствен интелект за неустойчивост на „ репрезентативни вреди “ (стереотипи за обществени групи, като расови, етнически, полови или религиозни групи, които водят до отрицателни последствия за тези групи и техните членове).

„ Извършихме сериозна етична оценка и оценка на сигурността на моделите на PaliGemma 2, в това число сигурността за децата и сигурността на наличието “, добави компанията.

Сандра Вахтер, професор по нравственос на данните и изкуствен интелект в Оксфордския интернет институт, не е уверена от този отговор на компанията:

„ Отговорна иновация е тази, при която се мисли за последствията от нейното създаване още от първия ден на работата върху нея, всякога, когато влизате в лабораторията си, и по-късно продължавате да го вършиме през целия витален цикъл на продукта. Мога да си показва доста евентуални проблеми, които сходни модели биха могли да основат и в последна сметка да доведат до едно тъмно бъдеще, в което страстите ви дефинират дали ще получите работа, заем и дали ще отидете в университет. “