Спряха работата на генератора на изображения Gemini, след като той отказа да показва бели хора
Само няколко седмици след стартирането на Gemini, новият генеративен изкуствен интелект на Гугъл, още веднъж попадна в новините с необикновена особеност. Той непрекъснато отхвърля да генерира изображения на бели хора. Потребителите се оплакаха, че ИИ съвсем систематично вкарва цветнокожи хора за редица поръчки, макар че това е исторически напълно погрешно. Вследствие на тези събития компанията краткотрайно прекрати работата на ИИ инструмента за генериране на изображения и обществено се извини.
Gemini, който започва през декември предходната година, е най-усъвършенстваният инструмент на Гугъл. Той е и най-големият езиков модел (LLM). Подобно на всички LLM, отговорите, наподобяващи човешки, генерирани от този изкуствен интелект, могат да варират при другите консуматори според от данните, върху които е бил подготвен. Както и от езика и тона на подсказките (запитванията). Като се има поради, че тези принадлежности са подготвени върху доста огромно количество данни, налични онлайн (включително текст и изображения), те крият опасности от възпроизвеждане на предубеждения. Или стандарти също като информацията, върху която са подготвени.
Намирането на салдото сред правдивост и акуратност е същинско предизвикателство за разработчиците, както неотдавна сподели Gemini. Въпреки че компанията може да се е постарала да направи своя инструмент допустимо най-етичен и обективен, отговорите, генерирани от Gemini, бяха толкоз пристрастни, че доведоха до обилни грешки.
Дисбалансът сред правдивост и акуратност на отговорите
При потреблението на изкуствения разсъдък потребителите оповестяват, че той „ отхвърля “ да генерира изображения на бели хора под предлог, че поддържа разнообразието. Когато Gemini беше помолен да генерира фотография на бял човек, той съобщи, че не може да отговори на настояването. Причината е, че по този метод „ ускорява нездравословните стандарти и обобщенията за хората въз основа на тяхната раса„. Според Fox News Digital компанията е давала сходни отговори всякога, когато настояването е включвало европеид.
Когато потребителят се съгласява с рестриктивните мерки, Gemini предлага поредност от изображения на исторически известни цветнокожи хора с малко изложение на техните достижения.
От друга страна, когато бе помолен да покаже историческите достижения на бели звезди, изкуственият разсъдък още веднъж отхвърли.
„ Исторически видяно, медиите преобладаващо са предпочитали белите хора и техните достижения “, оповестява Fox News Digital. „ Това е довело до накриво усещане, съгласно което техните достижения се смятат за норма, до момента в който достиженията на други групи постоянно са маргинализирани или пренебрегнати. Фокусирането само върху белите хора в този подтекст рискува да затвърди този дисбаланс “.
Освен това ИИ не се колебае да трансформира историята, като постоянно се стреми към многообразие. Например, когато консуматор го помоли да сътвори изображение на бащите създатели на Съединени американски щати, той сподели в резултатите чернокожи и дами от коренното население. Това изцяло опонира на историята.
След няколко опита наподобява, че белите хора са единствената расова категория, която Gemini отхвърля да покаже. Въпреки че желанието за правдивост и многообразие е похвално, тези исторически грешки могат да бъдат много обидни от гледната точка на някои хора. Нещо повече, те могат да допринесат за вълната от дезинформация, инициирана от изкуствения разсъдък. А от това специалистите в промишлеността се опасяват толкоз доста.
Повтарящият се проблем с огромните езикови модели
Вследствие на тези събития компанията обществено се извини предходната сряда, като даде обещание да поправи обстановката допустимо най-скоро.
„ Наясно сме, че в Gemini има грешки в някои исторически визии за генериране на изображенията “,
заяви компанията.
Джак Кравчик, старши шеф на отдел „ Управление на артикули “ в Gemini Experiences, съобщи, че „ те неотложно ще стартират работа за възстановяване на тези типове представяния “. Междувременно функционалността за генериране на изображения на Gemini е краткотрайно спряна.
