Meta тайно тествала ChatGPT, Gemini и друг AI с фалшиви профили на деца
Meta е провела огромна и строго поверителна стратегия, в границите на която стотици външни подизпълнители са се представяли за младежи, с цел да подлагат на систематични проби чатботовете с изкуствен интелект на конкурентни компании. Това разкрива следствие на списание Wired.
Според обявата планът е носел вътрешното име " Cannes " и е бил изпълняван от подизпълнителя Covalen. Неговата задача е била да основава профили, представящи се за малолетни консуматори, които да взаимодействат с ChatGPT на OpenAI, Gemini на Гугъл и платформата Character.AI.
Целта е била да се ревизира до каква степен тези системи съблюдават личните си защитни механизми при изключително чувствителни тематики. Конкурентните компании обаче не са били известени, че са обект на сходно огромно тестване.
Хиляди въпроси за самоубийство, хранителни разстройства и принуждение
По данни на Wired единствено в един от стадиите на плана подизпълнителите са употребявали близо 38 000 авансово готови заявки (prompts). Значителна част от тях са били дефинирани по този начин, като че ли са написани от деца или младежи.
Стотици от въпросите са били свързани с:
хранителни разстройства;самоубийство и самонараняване;сексуални връзки и сантиментални теми;употреба на наркотици;насилие
Сред образците, разказани от изданието, има сюжет за възпитаник в пети клас, против който съученик насочва огнестрелно оръжие, история за момиче, което крие булимията си от родителите си, както и въпрос дали фантазиите за изяждане на детето на съседа са " естествени ".
Други запитвания включват търсене на метод за закупуване на кокаин, като питащият се показва за гимназист.
Освен текстови подкани, тестванията включвали и изображения с медикаменти, примки, ножове и медицински схеми.
В идващ стадий на плана броят на употребяваните подкани е надхвърлил 45 000.
Огромни масиви от данни, само че незнайно предопределение
Според вътрешна документи на Covalen, представена от Wired, планът е бил представян като " повсеместен бенчмаркинг на сигурността на AI ", чиято цел е основаването на " сериозни набори от данни за съпоставяне на моделите и оценка на сходството им ".
Какво тъкмо е направила след това Meta със събраната информация обаче не излиза наяве.
Разследването отбелязва, че чиновниците са документирали голям брой отговори на конкурентните чатботове в електронни таблици, само че липсват обществени данни за резултатите или за вероятно шерване на изводите с останалите компании.
Подизпълнител: Видях неща, които ми се желае да не бях виждал
Проектът слага още веднъж въпроса за практиката Meta да разпорежда психически тежки действия на външни реализатори.
През 2020 година Фейсбук се съгласи да изплати компенсации по групов иск на модератори на наличие, които твърдяха, че са получили психически контузии след години работа с видеа на убийства, изтезания, полово принуждение и употреба на деца.
По-рано тази година други подизпълнители оповестиха, че са били принудени да преглеждат извънредно персонални видеозаписи, снимани посредством умните очила Ray-Ban Meta AI, в това число полови подиуми и фрагменти от тоалетни пространства.
Според Wired сходни проблеми са зародили и при плана " Cannes ".
Един от участниците споделя пред списанието:
" Видях доста неща, които ми се желае да не бях виждал, до момента в който вършех тази работа. Всички, които познавах в плана, бяха изцяло шокирани от част от текстовете, които трябваше да тестваме. "
Meta: Това е общоприета процедура
В позиция до Wired компанията пази плана като част от нормалните практики за оценка на сигурността на моделите с изкуствен интелект.
Според Meta сходни проби съставляват " общоприета за промишлеността процедура " при сравняването на разнообразни AI системи.
Това пояснение обаче не убеждава всички експерти.
Главният изпълнителен шеф на неправителствената организация Humane Intelligence PBC Руман Чоудъри декларира пред Wired, че съществува основна разлика сред нормалното тестване и огромна, траяла с месеци интервенция, която употребява фиктивни сметки на малолетни.
По думите ѝ точно неналичието на бистрота прави случая необикновен.
" Организирането на огромен многомесечен план, който наподобява е основан, с цел да нарушава систематично тези правила посредством фиктивни профили, представящи се за деца, излиза отвън това, което нормално се дефинира като общоприетоо оценяване ", разяснява Чоудъри пред изданието.
Тя обръща внимание и на обстоятелството, че Meta не е уведомила съперниците си за провежданите проби, нито е разгласила резултатите от тях.
---
Този материал е написан благодарение на изкуствен интелект под контрола и редакцията на най-малко двама публицисти от Клуб Z.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
Според обявата планът е носел вътрешното име " Cannes " и е бил изпълняван от подизпълнителя Covalen. Неговата задача е била да основава профили, представящи се за малолетни консуматори, които да взаимодействат с ChatGPT на OpenAI, Gemini на Гугъл и платформата Character.AI.
Целта е била да се ревизира до каква степен тези системи съблюдават личните си защитни механизми при изключително чувствителни тематики. Конкурентните компании обаче не са били известени, че са обект на сходно огромно тестване.
Хиляди въпроси за самоубийство, хранителни разстройства и принуждение
По данни на Wired единствено в един от стадиите на плана подизпълнителите са употребявали близо 38 000 авансово готови заявки (prompts). Значителна част от тях са били дефинирани по този начин, като че ли са написани от деца или младежи.
Стотици от въпросите са били свързани с:
хранителни разстройства;самоубийство и самонараняване;сексуални връзки и сантиментални теми;употреба на наркотици;насилие
Сред образците, разказани от изданието, има сюжет за възпитаник в пети клас, против който съученик насочва огнестрелно оръжие, история за момиче, което крие булимията си от родителите си, както и въпрос дали фантазиите за изяждане на детето на съседа са " естествени ".
Други запитвания включват търсене на метод за закупуване на кокаин, като питащият се показва за гимназист.
Освен текстови подкани, тестванията включвали и изображения с медикаменти, примки, ножове и медицински схеми.
В идващ стадий на плана броят на употребяваните подкани е надхвърлил 45 000.
Огромни масиви от данни, само че незнайно предопределение
Според вътрешна документи на Covalen, представена от Wired, планът е бил представян като " повсеместен бенчмаркинг на сигурността на AI ", чиято цел е основаването на " сериозни набори от данни за съпоставяне на моделите и оценка на сходството им ".
Какво тъкмо е направила след това Meta със събраната информация обаче не излиза наяве.
Разследването отбелязва, че чиновниците са документирали голям брой отговори на конкурентните чатботове в електронни таблици, само че липсват обществени данни за резултатите или за вероятно шерване на изводите с останалите компании.
Подизпълнител: Видях неща, които ми се желае да не бях виждал
Проектът слага още веднъж въпроса за практиката Meta да разпорежда психически тежки действия на външни реализатори.
През 2020 година Фейсбук се съгласи да изплати компенсации по групов иск на модератори на наличие, които твърдяха, че са получили психически контузии след години работа с видеа на убийства, изтезания, полово принуждение и употреба на деца.
По-рано тази година други подизпълнители оповестиха, че са били принудени да преглеждат извънредно персонални видеозаписи, снимани посредством умните очила Ray-Ban Meta AI, в това число полови подиуми и фрагменти от тоалетни пространства.
Според Wired сходни проблеми са зародили и при плана " Cannes ".
Един от участниците споделя пред списанието:
" Видях доста неща, които ми се желае да не бях виждал, до момента в който вършех тази работа. Всички, които познавах в плана, бяха изцяло шокирани от част от текстовете, които трябваше да тестваме. "
Meta: Това е общоприета процедура
В позиция до Wired компанията пази плана като част от нормалните практики за оценка на сигурността на моделите с изкуствен интелект.
Според Meta сходни проби съставляват " общоприета за промишлеността процедура " при сравняването на разнообразни AI системи.
Това пояснение обаче не убеждава всички експерти.
Главният изпълнителен шеф на неправителствената организация Humane Intelligence PBC Руман Чоудъри декларира пред Wired, че съществува основна разлика сред нормалното тестване и огромна, траяла с месеци интервенция, която употребява фиктивни сметки на малолетни.
По думите ѝ точно неналичието на бистрота прави случая необикновен.
" Организирането на огромен многомесечен план, който наподобява е основан, с цел да нарушава систематично тези правила посредством фиктивни профили, представящи се за деца, излиза отвън това, което нормално се дефинира като общоприетоо оценяване ", разяснява Чоудъри пред изданието.
Тя обръща внимание и на обстоятелството, че Meta не е уведомила съперниците си за провежданите проби, нито е разгласила резултатите от тях.
---
Този материал е написан благодарение на изкуствен интелект под контрола и редакцията на най-малко двама публицисти от Клуб Z.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
Източник: clubz.bg
КОМЕНТАРИ