Instagram внедрява ИИ за разпознаване на тролове
Facebook, като един от международните водачи в създаването на технологии с детайли на изкуствен интелект, стартира потреблението на новите логаритми в всекидневието. Те се употребяват за пречистване на известията на потребителите. Ние към този момент публикувахме материали за инструмента Restrict и за битката на Instagram с обидните мнения, а в този момент бе оповестен огромен репортаж на Йоав Шапирa (Yoav Shapira) в Time, водещ разработчик на класификаторите на потребителския тормоз, които се базират на най-съвременни невронни мрежи.
Най забавната от новите функционалности е тази, която блокира троловете по подобен метод, че те даже не виждат това . Тролът продължава да бъде недодялан и да се държи дебелашки, само че оповестените от него мнения ги вижда само той самият. Това е идеалният вид, при който грубиянът не се блокира, а обстановката не се изостря. В тази функционалност не се употребява ИИ.
В известието за пресата се споделя, че напълно скоро Instagram ще показа нови функционалности за „сдържането на онлайн тормозенето“. Това става във време, когато колосите на обществените мрежи се сблъскват с нараснало внимание и нараснала сензитивност към грубостта, с която се сблъскват доста консуматори. В целия свят нарастват апелите за усилване на контрола на платформите като Фейсбук и Twitter, което се случва на фона на възходящата рецензия против разпространяването на злоба и подправени вести, както и за необятното разпространяване на експанзия и неучтивост в мненията на тези платформи.
Instagram с публика от 500 милиона души е платформа за изображения. Тук потребителите качват своите фотоси и видеа, които след това се разясняват от другите консуматори.
Сега компанията публично съобщи, че в продължение на доста години употребява ИИ за мониторинг на троловете и вредоносното наличие, като към този момент е подготвена с интерфейса за непосредственото взаимоотношение на този ИИ с потребителя.
Двете нови функционалности
Първо, това е технологията за мигновено откриване, по кое време потребителят се пробва да разгласява нещо оскърбително. Системата ще стартира да демонстрира предизвестие преди да разреши публикуването на сходен коментар.
„Това ще даде на хората опция да се замислят и вероятно да анулират своя коментар“ – съобщи ръководителят на Instagram Адам Мосери. „От ранните проби на тази функционалност ние разбрахме, че тя в действителност подбужда някои хора да анулират своя коментар и да напишат нещо не толкоз токсично. Просто би трябвало да им се даде време да помислят“.
Втората нова функционалност е Ограничението (Restrict). С нейна помощ се лимитират оскърбителните мнения в лентата на потребителя. „Ние разбрахме от младежите, че те не желаят да си губят времето с блокиране, унищожаване на почитателите или със известия за тролване. Това усложнява и изостря ситуацията“ – сподели още Мосери.
Сега се пови нов вид: да се направи по този начин, че постовете на трола да са забележими единствено за него . Грубиянът автоматизирано се слага в стеснен (Restricted) режим. Тоест, той става безусловно стеснен консуматор.
„Ограничените хора не могат да виждат по кое време сте дейни в Instagram и по кое време сте им прочели съобщенията“ – сподели още Мосери.
Тези стъпки на Instagram имат за цел да защитят най-вече тинейджърите. Според анкетата на изследователския център Pew Research Center, 72% от тинейджърите на Съединени американски щати декларират, че употребяват Instagram.
Заплашването и тролингът са единствено един от фронтовете, на които обществеността упорства обществените мрежи да подхващат дейности. Растат апелите за регулация на тези платформи във връзка с подправените вести и известията, предизвикващи злоба.
Компаниите като Фейсбук да вземем за пример, започнаха да трансформират своята политика и към този момент внедряват функционалности за повишение прозрачността и сигурността. Засега неособено сполучливо, само че без натиска на обществеността и това нямаше да го има.
Изкуственият разсъдък
В изявлението за Time представителите на Instagram споделиха, че за филтрирането на грубото държание и тролинга в бъдеще ще се употребяват най-вече технологии с детайли на изкуствен интелект, с цел да се реализира цялостното унищожаване на неуважението и издевателствата. Към сегашен ден младите гора са наплашени и и се тормозят да оповестят за неподобаващо държание, което да докара до блокирането на трол. В бъдеще няма да се постанова да вършат това. Новата ИИ система независимо ще се погрижи за слабите.
Time споделя, че основаването на изкуствен интелект за битка с грубостите и тролинга е самобитен софтуерен Еверест. Това значи, че машините би трябвало да бъдат подготвени да схващат комплицираните нюанси на проблемите. От друга страна, Instagram ще би трябвало да се преценява да не зародят проблеми със свободата на словото и новите логаритми не би трябвало филтрират непотребни неща.
„Безпокоя се, че в случай че не бъдем задоволително деликатни, можем да прехвърлим границата“ – сподели още Адам Мосери. Но ръководителят на Instagram е подготвен да взема решения за намаление интензивността на потребителите, в случай че това покачва сигурността.
Сайтът за шерване на фотоси на процедура още през цялото време бе употребен от перверзници. 20-годишните създатели на компанията Кевин Систром Майк Кригер по цели дни персонално са премахвали неприятните мнения и са блокирали троловете. След това за почнали да употребяват ИИ инструмента DeepText , особено създаден за схващане и интерпретиране на човешкия език.
Специалистите на Instagram за първи път използваха DeepText през 2016 година за откриването на спам. През 2017 година той е подготвен да намира и блокира оскърбителните мнения и умишлената неучтивост. През ноември 2018 година компанията разгласи, че тяхната ИИ система ще проучва освен мненията, само че и постовете.
Когато експертите желаят да научат машината да извършва една или друга типична задача, те стартират с учащ набор – комплект от опростени термини и материали, който задава разпоредбите на работа на машината. Модераторите сортират стотици хиляди фрагменти и вземат решение, дали съдържат тролинг и насмешки. Те означават токсичните текстове и вкарват тези образци в по този начин нареченият класификатор. Разбира се, тези начални образци не могат да обзет всичко, с което ще се сблъска класификаторът в действителния живот. Но машината последователно се научава по какъв метод модераторите също се учат посредством появяването на нови фрази и изрази. С течение на времето този логаритъм с детайли на изкуствен интелект става все по-добър.
Към сегашен ден Instagram употребява за сканирането на наличието три обособени класификатора за различаване на тролинга. Единият е подготвен да разпознава оскърбителния текст, вторият – фотосите и третият – видеата. Тази класификатори към този момент работят в общоприет режим – те търсят, означават и сортират наличието. Но към този момент позволяват значително неточности.
Разпознаването на токсичния текст е доста по-трудно от разпознаването да вземем за пример на голотата. За ИИ е напълно елементарно да разпознае кой е облечен и кой не е, само че разпознаването на необятния набор държание, което може да бъде счетено за безчинство и засегнатост, е доста по-трудно. Основната причина е, че даден текст за някои хора е афектиран, а за други напълно безопасен.
С други суми, дадена забележка може надълбоко да обиди даден човек, до момента в който различен я приема с равнодушие, неутрално и умерено.
А експертите би трябвало да дадат точни указания, кое да се смята за тролинг и кое не, с цел да се построи благонадежден комплект от данни, които да се употребяват за машинното образование.
За да успее да създаде по-ефективен ИИ, Instagram сега организира анкета на хиляди консуматори с вярата по-добре да разбере всички словоформи и изрази, които в очите на аудиторията на тази онлайн услуга наподобяват като тролинг. Тези данни за първи път ще бъдат оповестени тази година.
Към сегашен ден за обучаване на класификатора екипът на Шапирa е разделила тролинга на седем групи:
ОскърбленияЗасрамванеЗаплахиАтаки против личносттаНеуважениеНежелани контактиИзмяна
Грандиозният проект е да бъде основан изкуствен интелект, който е подготвен да схваща всяка една от тези концепции.
Всяка седмица откривателите се регистрират за направените от тях разкрития за тролинг и съвсем всяка седмица се появява някаква нова форма на безчинство и засегнатост, която експертите до тогава не са си и мислели да търсят. Но Фейсбук и Instagram са изцяло уверени, че могат да се оправят с този проблем. Засега не е известно какъв брой от 1200-те чиновници на Instagram и от към 37 700-те чиновници на Фейсбук работят върху този план. Шапирa смята, че през идващите една-две години ще бъде реализиран необикновен триумф в това направление.
Най забавната от новите функционалности е тази, която блокира троловете по подобен метод, че те даже не виждат това . Тролът продължава да бъде недодялан и да се държи дебелашки, само че оповестените от него мнения ги вижда само той самият. Това е идеалният вид, при който грубиянът не се блокира, а обстановката не се изостря. В тази функционалност не се употребява ИИ.
В известието за пресата се споделя, че напълно скоро Instagram ще показа нови функционалности за „сдържането на онлайн тормозенето“. Това става във време, когато колосите на обществените мрежи се сблъскват с нараснало внимание и нараснала сензитивност към грубостта, с която се сблъскват доста консуматори. В целия свят нарастват апелите за усилване на контрола на платформите като Фейсбук и Twitter, което се случва на фона на възходящата рецензия против разпространяването на злоба и подправени вести, както и за необятното разпространяване на експанзия и неучтивост в мненията на тези платформи.
Instagram с публика от 500 милиона души е платформа за изображения. Тук потребителите качват своите фотоси и видеа, които след това се разясняват от другите консуматори.
Сега компанията публично съобщи, че в продължение на доста години употребява ИИ за мониторинг на троловете и вредоносното наличие, като към този момент е подготвена с интерфейса за непосредственото взаимоотношение на този ИИ с потребителя.
Двете нови функционалности
Първо, това е технологията за мигновено откриване, по кое време потребителят се пробва да разгласява нещо оскърбително. Системата ще стартира да демонстрира предизвестие преди да разреши публикуването на сходен коментар.
„Това ще даде на хората опция да се замислят и вероятно да анулират своя коментар“ – съобщи ръководителят на Instagram Адам Мосери. „От ранните проби на тази функционалност ние разбрахме, че тя в действителност подбужда някои хора да анулират своя коментар и да напишат нещо не толкоз токсично. Просто би трябвало да им се даде време да помислят“.
Втората нова функционалност е Ограничението (Restrict). С нейна помощ се лимитират оскърбителните мнения в лентата на потребителя. „Ние разбрахме от младежите, че те не желаят да си губят времето с блокиране, унищожаване на почитателите или със известия за тролване. Това усложнява и изостря ситуацията“ – сподели още Мосери.
Сега се пови нов вид: да се направи по този начин, че постовете на трола да са забележими единствено за него . Грубиянът автоматизирано се слага в стеснен (Restricted) режим. Тоест, той става безусловно стеснен консуматор.
„Ограничените хора не могат да виждат по кое време сте дейни в Instagram и по кое време сте им прочели съобщенията“ – сподели още Мосери.
Тези стъпки на Instagram имат за цел да защитят най-вече тинейджърите. Според анкетата на изследователския център Pew Research Center, 72% от тинейджърите на Съединени американски щати декларират, че употребяват Instagram.
Заплашването и тролингът са единствено един от фронтовете, на които обществеността упорства обществените мрежи да подхващат дейности. Растат апелите за регулация на тези платформи във връзка с подправените вести и известията, предизвикващи злоба.
Компаниите като Фейсбук да вземем за пример, започнаха да трансформират своята политика и към този момент внедряват функционалности за повишение прозрачността и сигурността. Засега неособено сполучливо, само че без натиска на обществеността и това нямаше да го има.
Изкуственият разсъдък
В изявлението за Time представителите на Instagram споделиха, че за филтрирането на грубото държание и тролинга в бъдеще ще се употребяват най-вече технологии с детайли на изкуствен интелект, с цел да се реализира цялостното унищожаване на неуважението и издевателствата. Към сегашен ден младите гора са наплашени и и се тормозят да оповестят за неподобаващо държание, което да докара до блокирането на трол. В бъдеще няма да се постанова да вършат това. Новата ИИ система независимо ще се погрижи за слабите.
Time споделя, че основаването на изкуствен интелект за битка с грубостите и тролинга е самобитен софтуерен Еверест. Това значи, че машините би трябвало да бъдат подготвени да схващат комплицираните нюанси на проблемите. От друга страна, Instagram ще би трябвало да се преценява да не зародят проблеми със свободата на словото и новите логаритми не би трябвало филтрират непотребни неща.
„Безпокоя се, че в случай че не бъдем задоволително деликатни, можем да прехвърлим границата“ – сподели още Адам Мосери. Но ръководителят на Instagram е подготвен да взема решения за намаление интензивността на потребителите, в случай че това покачва сигурността.
Сайтът за шерване на фотоси на процедура още през цялото време бе употребен от перверзници. 20-годишните създатели на компанията Кевин Систром Майк Кригер по цели дни персонално са премахвали неприятните мнения и са блокирали троловете. След това за почнали да употребяват ИИ инструмента DeepText , особено създаден за схващане и интерпретиране на човешкия език.
Специалистите на Instagram за първи път използваха DeepText през 2016 година за откриването на спам. През 2017 година той е подготвен да намира и блокира оскърбителните мнения и умишлената неучтивост. През ноември 2018 година компанията разгласи, че тяхната ИИ система ще проучва освен мненията, само че и постовете.
Когато експертите желаят да научат машината да извършва една или друга типична задача, те стартират с учащ набор – комплект от опростени термини и материали, който задава разпоредбите на работа на машината. Модераторите сортират стотици хиляди фрагменти и вземат решение, дали съдържат тролинг и насмешки. Те означават токсичните текстове и вкарват тези образци в по този начин нареченият класификатор. Разбира се, тези начални образци не могат да обзет всичко, с което ще се сблъска класификаторът в действителния живот. Но машината последователно се научава по какъв метод модераторите също се учат посредством появяването на нови фрази и изрази. С течение на времето този логаритъм с детайли на изкуствен интелект става все по-добър.
Към сегашен ден Instagram употребява за сканирането на наличието три обособени класификатора за различаване на тролинга. Единият е подготвен да разпознава оскърбителния текст, вторият – фотосите и третият – видеата. Тази класификатори към този момент работят в общоприет режим – те търсят, означават и сортират наличието. Но към този момент позволяват значително неточности.
Разпознаването на токсичния текст е доста по-трудно от разпознаването да вземем за пример на голотата. За ИИ е напълно елементарно да разпознае кой е облечен и кой не е, само че разпознаването на необятния набор държание, което може да бъде счетено за безчинство и засегнатост, е доста по-трудно. Основната причина е, че даден текст за някои хора е афектиран, а за други напълно безопасен.
С други суми, дадена забележка може надълбоко да обиди даден човек, до момента в който различен я приема с равнодушие, неутрално и умерено.
А експертите би трябвало да дадат точни указания, кое да се смята за тролинг и кое не, с цел да се построи благонадежден комплект от данни, които да се употребяват за машинното образование.
За да успее да създаде по-ефективен ИИ, Instagram сега организира анкета на хиляди консуматори с вярата по-добре да разбере всички словоформи и изрази, които в очите на аудиторията на тази онлайн услуга наподобяват като тролинг. Тези данни за първи път ще бъдат оповестени тази година.
Към сегашен ден за обучаване на класификатора екипът на Шапирa е разделила тролинга на седем групи:
ОскърбленияЗасрамванеЗаплахиАтаки против личносттаНеуважениеНежелани контактиИзмяна
Грандиозният проект е да бъде основан изкуствен интелект, който е подготвен да схваща всяка една от тези концепции.
Всяка седмица откривателите се регистрират за направените от тях разкрития за тролинг и съвсем всяка седмица се появява някаква нова форма на безчинство и засегнатост, която експертите до тогава не са си и мислели да търсят. Но Фейсбук и Instagram са изцяло уверени, че могат да се оправят с този проблем. Засега не е известно какъв брой от 1200-те чиновници на Instagram и от към 37 700-те чиновници на Фейсбук работят върху този план. Шапирa смята, че през идващите една-две години ще бъде реализиран необикновен триумф в това направление.
Източник: kaldata.com
КОМЕНТАРИ