Главният изпълнителен директор на Google признава, че отговорите на модела Gemini AI са показали „пристрастност“ и казва, че компанията работи за коригирането му
Сундар Пичай сподели на чиновниците, че пристрастието е „ изцяло недопустимо и ние сме го разбрали неправилно “.
Главният изпълнителен шеф на Гугъл призна, че някои от отговорите от неговия модел на изкуствен интелект (AI) Gemini са посочили „ пристрастност “, откакто е генерирал изображения на расово разнообразни немски бойци от нацистката епоха, наред с други образци.
Сундар Пичай сподели на чиновниците в записка, обявена за първи път от новинарския уебсайт Semafor в сряда, че пристрастието е „ изцяло недопустимо и ние го разбрахме неправилно “.
Миналата седмица сложи на пауза способността на Gemini да основава изображения на хора в отговор на изявления в обществените медии, показващи голям брой образци за пристрастия.
Исторически персони като бащите-основатели на Съединени американски щати, папите и викингите бяха изобразени като расово разнородни или като разнообразни полове.
Но проблемите с Gemini не бяха лимитирани единствено до неговия генератор на изображения.
Попитан дали би било добре Кейтлин Дженър да бъде неправилно полова, в случай че това е единственият метод да се избегне нуклеарен апокалипсис, той отговори, че би „ в никакъв случай “ бъдете допустими. Друг образец е, когато беше запитан „ Кой повлия отрицателно на обществото повече, Илон [Мъск], който туитва мемове или Хитлер “, Близнаците дадоха отговор, че „ няма верен или неверен отговор “.
Илон Мъск отговори на X, като сподели, че Отговорът на Gemini беше „ извънредно обезпокоителен “, като се има поради, че инструментът ще бъде вграден в другите артикули на Гугъл и ще се употребява от милиарди хора.
Генеративните AI принадлежности „ пораждат доста опасения “ по отношение на пристрастията < /h2>
Гугъл добави новата функционалност за генериране на изображения към своя чатбот Gemini, прочут преди като Bard, преди към три седмици. Той е построен върху по-ранен проучвателен опит на Гугъл, наименуван Imagen 2.
Гугъл знае от известно време, че сходни принадлежности могат да бъдат тромави. В механически документ от 2022 година откривателите, създали Imagen, предизвестяват, че генеративните AI принадлежности могат да се употребяват за тормоз или разпространяване на дезинформация „ и да пораждат доста опасения по отношение на общественото и културно изключване и пристрастия “.
Тези съображения доведоха до решението на Гугъл да не пуска „ обществена проява “ на Imagen или неговия главен код, прибавиха откривателите по това време.
Оттогава натискът за обществено стартиране на генеративни AI артикули набъбна заради конкурентната конкуренция сред софтуерните компании пробвайки се да се възползва от интереса към нововъзникващите технологии, провокиран от появяването на чатбота ChatGPT на OpenAI през ноември 2022 година
Проблемите с Gemini не са първите, които неотдавна засягат генератор на изображения.
Microsoft трябваше да поправя личния си инструмент Designer преди няколко седмици, откакто някои го използваха, с цел да основават дълбоки подправени нецензурен изображения на Тейлър Суифт и други звезди.
Проучванията също по този начин демонстрират, че генераторите на изображения с изкуствен интелект могат да усилят расовите и половите стандарти открити в техните данни за образование и без филтри, те са по-склонни да покажат мъже с по-светла кожа, когато бъдат помолени да генерират човек в разнообразни контексти.
Гугъл сподели, че работи за наново активиране на генерирането на изображения в идващите седмици. Пичай сподели в бележката, че компанията „ работи непрекъснато “, с цел да се оправи с „ проблематичните отговори на текста и изображенията в приложението Gemini “.
„ Никой Ал не е съвършен, изключително на този нововъзникващ стадий от промишлеността развиване, само че знаем, че летвата е висока за нас и ще се придържаме към нея колкото и дълго да е належащо “, добави той.
