Google пренаписва историята: белите хора вече не съществуват?
Наистина ли разнообразието е повода за расовата дискриминация при Gemini?
Гугъл се извини на потребителите за позволените грешки в изображенията, генерирани от нейния инструмент Gemini AI, свързани с исторически герои и събития. Компанията признава, че опитите за основаване на „ необятен набор “ от резултати не са оправдали упованията.
Съобщението на компанията идва откакто редица критици акцентираха, че някои исторически персони, като създателите на Съединени американски щати, или групи, като немските бойци от нацистката ера, са изобразени като хора от други раси – като чернокожи, което може да е опит да се компенсират дългогодишните проблеми с расовите пристрастия в ИИ.
Няколко седмици след стартирането на функционалността за генериране на изображения на Gemini в обществените медии породиха въпроси по отношение на способността на технологията да възпроизвежда исторически точни резултати в опит да реализира расово и полово многообразие.
Критиките пристигнаха най-вече от „ десните “ кръгове, които упрекнаха софтуерната компания, че има демократични възгледи. Така да вземем за пример някогашен чиновник на Гугъл преди време написа, че „ е мъчно да накараш Гугъл Gemini да признае съществуването на бели хора “, показвайки серия от запитвания и резултати, които в преобладаващата си част демонстрират чернокожи.
Гугъл не загатва съответните изображения, за които се счита, че са сбъркани, само че удостоверява желанията си да усъвършенства точността на изображенията. Съществуват обаче догатки, че Gemini се е опитал да усили разнообразието заради хроничния минус на генеративния изкуствен интелект – генераторите на изображения се образоват върху огромни масиви от изображения и текстови описания, с цел да основат „ най-хубавото “ сходство за дадена поръчка, което постоянно води до усилване на стандартите.
Потребителите в обществените медии обаче споделиха работата на Gemini, като разгласиха образци за генериране на изображения за разнообразни поръчки. В някои случаи поръчките, свързани с исторически събития, са довели до напълно погрешно показване на историята. Например:
Приложението Gemini се проваля в задачата си да изобрази вярно немски боец. Получило се е нещо извънредно
Когато системата е помолена да сътвори изображения на създателите на Съединени американски щати, тя изобразява „ цветни “ хора, които напълно отдалечено наподобяват историческите персони.
Според Гугъл тези резултати водят до деформиране на същинската история на расовата и половата дискриминация.
Ситуацията акцентира надълбоко вкоренените провокации при балансирането на историческата акуратност и отразяването на разнообразието, пред които са изправени разработчиците на изкуствен интелект. Инцидентът визира и по-широкия въпрос за ролята на технологиите във образуването на нашето усещане на историята и културата, като повдига значим спор за това по какъв начин изкуственият разсъдък може и би трябвало да отразява сложността и разнообразието на човешкия опит.
