Кенийци работили по $2 на час, за да направят ChatGPT по-безопасен, след това получили тежки травми
ChatGPT е може би най-известният чатбот с изкуствен интелект в света. И това е извънредно сполучлив OpenAI план, който завоюва първия милион консуматори още през първата седмица. Венчър фондовете правят оценка компанията на 29 милиарда $.
Ръководството на Microsoft, което към този момент го управлява отчасти, има намерение да влага още 10 милиарда.
За да може ChatGPT да комуникира безапелационно и правдоподобно с потребителя, му беше подадена голяма сбирка от текстове. Въпреки това чатботът на сегашния стадий прави доста неточности - запалянковците неведнъж са привличали вниманието към образци за дезинформация, безсмислено или евентуално нездравословно наличие, до токсичност, подбудителство към ненавист и препоръки за осъществяване на закононарушения. И макар че ChatGPT не е програмиран да поучава по какъв начин се наруша закона, потребителите непрекъснато намират малки врати.
За да понижат доста противозаконното или просто насилственото наличие, създателите на ChatGPT трябваше авансово да филтрират данните от интернет. Невъзможно е да извършите това ръчно. Най-очевидното решение е да се сътвори спомагателна невронна мрежа за автоматизирано пречистване: сходен инструмент се употребява да вземем за пример от Фейсбук за модериране. Разбираемо е, че вграденият „ детектор “ на ChatGPT ще помогне за премахването на неетичен текст, преди крайният консуматор да го види.
В публикацията на Time се споделя, че OpenAI е употребявал нископлатени чиновници отвън Съединените щати, с цел да обучат този детектор на невронни мрежи и тази работа. Тази работа обаче повлияла извънредно отрицателно на тяхното физическо и психическо им здраве.
За маркиране на текстови описания OpenAI се обърна към компанията Sama: централата й е в Сан Франциско, само че за работа с клиенти от Силиконовата котловина - да вземем за пример Гугъл, Meta и Microsoft - работят хора от Индия, Кения и Уганда. В листата на най-бедните страни в света съгласно версията на финансовото издание Global Finance, Уганда заема 25-то място, Кения - 52-ро, Индия - 66-то. Sama назовава себе си последовател на етичната приложимост на AI и твърди, че е помогнала на повече от 50 000 души да се измъкнат от бедността.
За следствието публицистите разговаряли с четирима чиновници на компанията, които са работили по плана за ChatGPT, а също по този начин са проучили вътрешни документи на OpenAI и Sama.
Проверката на Time открива, че от ноември 2021 година OpenAI, с посредничеството на Sama, са изпратени десетки хиляди текстови фрагменти „ от най-тъмните ъгли на Интернет “ до аутсорсинг компания в Кения: „ Някои от тях разказват в детайли полово принуждение над деца, зоофилия, ликвидиране, самоубийство, изтезания, самонараняване и блудничество “.
Задачата на чиновниците била да открият и маркират по подобаващ метод такива текстови фрагменти. Един от чиновниците на Sama твърди, че по време на работа е прочел изложение на секс сред мъж и куче в наличието на дете, след което е сънувал непрестанни кошмари.
Според следователите работниците- " маркерите на данни " са получавали сред 1,32 и 2 $ на час, а равнището на заплатата зависело от трудовия стаж и равнището на продуктивност.
Изнесените чиновници трябвало да четат по 150–250 текстови фрагменти и да ги маркират в границите на 10 часова промяна. Всеки откъс съдържа от 100 до повече от 1000 думи.
Служителите на Sama имали право да посещават самостоятелни съвещания и „ здравни стратегии за облекчение на напрежението “.
Четиримата от събеседници на Time са споделили, че работата извънредно ги е травмирала.
През февруари 2022 година OpenAI и Sama прекратиха прибързано съдействието си осем месеца по-рано от плануваното в договорите. Според Time, преди този момент OpenAI е почнала да работи по план, който не е бил обвързван с ChatGPT, и беше помолен да обработи 1400 изображения с евентуално нелегално наличие, като обезчестяване, полово иго, малтретиране на деца и изображения на гибел.
OpenAI изясни, че това е „ належащо “ за повишение на сигурността на своите AI планове.
Веднага щом управлението на Sama научила за такова искане, е оповестила края на взаимните планове с OpenAI.
В диалог с Time представител на Sama изяснява: „ Тези, които са работили с клиента, не са ревизирали поръчката по нужните канали. След изследване на обстановката някои хора бяха уволнени, въведени бяха нови правила и ограничавания “.
OpenAI удостоверява поръчките на такова искане, само че отбелязва, че в никакъв случай не е възнамерявал да събира данни за полово принуждение против деца:
„ Такова наличие не се употребява в нашите филтри и ние молим чиновниците да го заобикалят. Веднага щом Sama оповестява, че се пробва да обработи наличието на тази категория, ние обяснихме, че е станало неразбирателство и че не ни е нужно. "
Според събеседниците на Time друга причина Sama да спре да работи с OpenAI е февруарското следствие на изданието за модераторите на наличие във Фейсбук в Африка, които трябвало да гледат фотоси и видеоклипове на изнасилвания, изтезания и други жестоки неща против $1,50 на час. Тези модератори също бяха наети от Sama.
По данни на Time, Open AI е сключила три контракта със Sama за общо 200 хиляди $ — всичките в края на 2021 година OpenAI съобщи, че все още на предварителното преустановяване на съглашението услугите са били осъществени за 150 хиляди $. Последната партида от данни на Sama беше предоставена на OpenAI през март 2022 година
Един от модератор на Sama споделя за среща с HR през февруари 2022 година: „ Казаха ни, че те [ръководството] не желаят да подлагат подчинените си на гледане на такова [опасно] наличие още веднъж. Отговорихме, че по този начин осигуряваме фамилиите си “. Според обявата множеството от трите дузини чиновници са били трансферирани към други нископлатени планове, останалите изцяло са изгубили работата си.
Превод и редакция Констанца Илиева
Ръководството на Microsoft, което към този момент го управлява отчасти, има намерение да влага още 10 милиарда.
За да може ChatGPT да комуникира безапелационно и правдоподобно с потребителя, му беше подадена голяма сбирка от текстове. Въпреки това чатботът на сегашния стадий прави доста неточности - запалянковците неведнъж са привличали вниманието към образци за дезинформация, безсмислено или евентуално нездравословно наличие, до токсичност, подбудителство към ненавист и препоръки за осъществяване на закононарушения. И макар че ChatGPT не е програмиран да поучава по какъв начин се наруша закона, потребителите непрекъснато намират малки врати.
За да понижат доста противозаконното или просто насилственото наличие, създателите на ChatGPT трябваше авансово да филтрират данните от интернет. Невъзможно е да извършите това ръчно. Най-очевидното решение е да се сътвори спомагателна невронна мрежа за автоматизирано пречистване: сходен инструмент се употребява да вземем за пример от Фейсбук за модериране. Разбираемо е, че вграденият „ детектор “ на ChatGPT ще помогне за премахването на неетичен текст, преди крайният консуматор да го види.
В публикацията на Time се споделя, че OpenAI е употребявал нископлатени чиновници отвън Съединените щати, с цел да обучат този детектор на невронни мрежи и тази работа. Тази работа обаче повлияла извънредно отрицателно на тяхното физическо и психическо им здраве.
За маркиране на текстови описания OpenAI се обърна към компанията Sama: централата й е в Сан Франциско, само че за работа с клиенти от Силиконовата котловина - да вземем за пример Гугъл, Meta и Microsoft - работят хора от Индия, Кения и Уганда. В листата на най-бедните страни в света съгласно версията на финансовото издание Global Finance, Уганда заема 25-то място, Кения - 52-ро, Индия - 66-то. Sama назовава себе си последовател на етичната приложимост на AI и твърди, че е помогнала на повече от 50 000 души да се измъкнат от бедността.
За следствието публицистите разговаряли с четирима чиновници на компанията, които са работили по плана за ChatGPT, а също по този начин са проучили вътрешни документи на OpenAI и Sama.
Проверката на Time открива, че от ноември 2021 година OpenAI, с посредничеството на Sama, са изпратени десетки хиляди текстови фрагменти „ от най-тъмните ъгли на Интернет “ до аутсорсинг компания в Кения: „ Някои от тях разказват в детайли полово принуждение над деца, зоофилия, ликвидиране, самоубийство, изтезания, самонараняване и блудничество “.
Задачата на чиновниците била да открият и маркират по подобаващ метод такива текстови фрагменти. Един от чиновниците на Sama твърди, че по време на работа е прочел изложение на секс сред мъж и куче в наличието на дете, след което е сънувал непрестанни кошмари.
Според следователите работниците- " маркерите на данни " са получавали сред 1,32 и 2 $ на час, а равнището на заплатата зависело от трудовия стаж и равнището на продуктивност.
Изнесените чиновници трябвало да четат по 150–250 текстови фрагменти и да ги маркират в границите на 10 часова промяна. Всеки откъс съдържа от 100 до повече от 1000 думи.
Служителите на Sama имали право да посещават самостоятелни съвещания и „ здравни стратегии за облекчение на напрежението “.
Четиримата от събеседници на Time са споделили, че работата извънредно ги е травмирала.
През февруари 2022 година OpenAI и Sama прекратиха прибързано съдействието си осем месеца по-рано от плануваното в договорите. Според Time, преди този момент OpenAI е почнала да работи по план, който не е бил обвързван с ChatGPT, и беше помолен да обработи 1400 изображения с евентуално нелегално наличие, като обезчестяване, полово иго, малтретиране на деца и изображения на гибел.
OpenAI изясни, че това е „ належащо “ за повишение на сигурността на своите AI планове.
Веднага щом управлението на Sama научила за такова искане, е оповестила края на взаимните планове с OpenAI.
В диалог с Time представител на Sama изяснява: „ Тези, които са работили с клиента, не са ревизирали поръчката по нужните канали. След изследване на обстановката някои хора бяха уволнени, въведени бяха нови правила и ограничавания “.
OpenAI удостоверява поръчките на такова искане, само че отбелязва, че в никакъв случай не е възнамерявал да събира данни за полово принуждение против деца:
„ Такова наличие не се употребява в нашите филтри и ние молим чиновниците да го заобикалят. Веднага щом Sama оповестява, че се пробва да обработи наличието на тази категория, ние обяснихме, че е станало неразбирателство и че не ни е нужно. "
Според събеседниците на Time друга причина Sama да спре да работи с OpenAI е февруарското следствие на изданието за модераторите на наличие във Фейсбук в Африка, които трябвало да гледат фотоси и видеоклипове на изнасилвания, изтезания и други жестоки неща против $1,50 на час. Тези модератори също бяха наети от Sama.
По данни на Time, Open AI е сключила три контракта със Sama за общо 200 хиляди $ — всичките в края на 2021 година OpenAI съобщи, че все още на предварителното преустановяване на съглашението услугите са били осъществени за 150 хиляди $. Последната партида от данни на Sama беше предоставена на OpenAI през март 2022 година
Един от модератор на Sama споделя за среща с HR през февруари 2022 година: „ Казаха ни, че те [ръководството] не желаят да подлагат подчинените си на гледане на такова [опасно] наличие още веднъж. Отговорихме, че по този начин осигуряваме фамилиите си “. Според обявата множеството от трите дузини чиновници са били трансферирани към други нископлатени планове, останалите изцяло са изгубили работата си.
Превод и редакция Констанца Илиева
Източник: frognews.bg
КОМЕНТАРИ