Инженерът на Microsoft предупреждава, че инструментът за изкуствен интелект на компанията създава насилствени, сексуални образи, пренебрегва авторските права
В една късна декемврийска нощ Шейн Джоунс, инженер по изкуствен интелект в Microsoft, се почувства гнусен от изображенията, изскачащи на неговия компютър.
Джоунс се занимаваше с Copilot Designer, генераторът на изображения с изкуствен интелект, който Microsoft дебютира през март 2023 година, задвижван от технологията на OpenAI. Подобно на DALL-E на OpenAI, потребителите вкарват текстови подкани, с цел да основават фотоси. Креативността се предизвиква да се развихри.
От предходния месец Джоунс интензивно тества продукта за уязвимости, процедура, известна като red-teaming. По това време той видя, че инструментът генерира изображения, които надалеч се разминават с постоянно цитираните правила на Microsoft за виновен AI.
Услугата AI изобразява демони и чудовища дружно с терминологията, обвързвана с правата на аборт, младежи с щурмови пушки, сексуализирани облици на дами в подиуми с принуждение и пиянство и приложимост на опиати от малолетни. Всички тези с...
Прочетете целия текст »
