Как AI дискредитира Microsoft като доставчик на новинарско съдържание
Фалшиви изказвания, че президентът Джо Байдън е задремал по време на минута безмълвие за жертвите на горския пожар в Мауи. Теория на конспирацията, съгласно която последната вълна от случаи на Covid-19 е проведена от Демократическата партия преди изборите. Некролог за умрял състезател от НБА, в който той е разказан като " ненужен ".
Тези погрешни и смущаващи истории не се появяват в някое отдалечено кътче на интернет – те са оповестени от Microsoft. Началната страница на компанията, известна още като MSN.com и Microsoft Start, остава един от най-посещаваните уеб страници в света и мястото, от което милиони се осведомят всеки ден. Но решението на софтуерния колос да разчита от ден на ден на автоматизирани принадлежности и изкуствен интелект вместо на редактори за подреждането на началната страница наподобява води до усилване на подправените истории в уеб страницата, оповестява CNN, базирайки се на свидетелства на хора, осведомени с метода на работа на уеб страницата.
Страницата, която е начална по дифолт на устройствата със програмен продукт на Microsoft, в това число на най-новата итерация на Edge, правоприемник на Internet Explorer, е наела повече от 800 редактори през 2018 година, с цел да помогне за подбора и подреждането на новинарските истории, показвани на милиони читатели по целия свят. Но през последните години Microsoft уволнява доста от тях, като на някои им е обяснено, че са сменени от " автоматизация " и изкуствен интелект.
Ранната инвестиция на Microsoft в OpenAI - основател на нашумялото приложение ChatGPT, го сложи отпред на обещаващата и евентуално рискова гражданска война на изкуствения разсъдък, даже когато президентът на софтуерния колос обществено изнесе лекция за виновното потребление на технологията.
Но очевидната виновност на AI за неотдавнашното усилване на подправените истории на Microsoft повдига въпроси за общественото приемане на зараждащата се технология от страна на компанията и за бъдещето на журналистическата промишленост като цяло.
The Guardian
Притесненията и напрежението по отношение на потреблението на AI от Microsoft във връзка с новинарското наличие се ускориха, откакто английският вестник The Guardian упрекна компанията в уронване на репутацията му, откакто разгласява на уеб страницата си негова публикация.
За да зарежда своя мощно посещаван новинарски портал, Microsoft е сключила лицензионни съглашения с огромни новинарски организации по света, в това число The Guardian и CNN, които разрешават на софтуерния колос да препубликува техни материали в подмяна на дял от приходите от реклама.
Миналата седмица The Guardian пуска публикация за Лили Джеймс, 21-годишна жена, открита мъртва със съществени пострадвания по главата в учебно заведение в Сидни, Австралия. Новината провокира вълна от тъга и народен диалог за насилието над дами в Австралия.
Но когато MSN препубликува историята на The Guardian, тя е съпроводена с анкета, генерирана от изкуствен интелект, в която читателите се питат: " Каква съгласно вас е повода за гибелта на дамата? " Изброени са три благоприятни условия: ликвидиране, акцидент или самоубийство. Анкетата провокира рецензии от страна на читателите, а един от тях написа: " Това би трябвало да е най-жалкото и непоносимо допитване, което в миналото съм виждал ".
Анна Бейтсън, основен изпълнителен шеф на медийната група The Guardian, декларира в остро писмо до Microsoft, че автоматизирано генерираната анкета е " надълбоко тревожно " приложение на технологията за изкуствен интелект на компанията и желае тя да поеме цялостна отговорност.
" Подобно приложение е освен евентуално притеснително за фамилията на индивида, който е обект на историята, само че и надълбоко нездравословно за мъчно извоюваната известност на The Guardian за надеждна и деликатна публицистика, както и за репутацията на обособените публицисти, които са написали истинската история ", написа Бейтсън в писмото от си до президента на Microsoft Брад Смит.
Бейтсън прибавя, че потреблението на анкета, генерирана от изкуствен интелект, дружно със публикацията, е " тъкмо подобен случай, за който предупреждавахме по отношение на новините " и е " съществена причина, заради която преди този момент поискахме от Вашите екипи да не ползват пробните технологии за генеративен AI към публицистиката, лицензирана от The Guardian ".
Говорител на Microsoft показва, че компанията деактивира всички анкети в новинарските публикации и " проверява повода за несъответствуващото наличие “.
„ Анкета не би трябвало да се появява дружно със публикация от подобен темперамент и ние подхващаме стъпки, с цел да помогнем за попречване на повторното пораждане на сходна неточност в бъдеще ", показват от Microsoft.
Фалшиви вести
Но тази анкета не е първият обществен гаф, породен от прегръдката сред AI и Microsoft. През август MSN показва на началната си страница история, която погрешно твърди, че президентът Джо Байдън е задремал по време на минута безмълвие за жертвите на пагубния горски пожар в Мауи.
През идващия месец Microsoft препубликува история за Брандън Хънтър, някогашен състезател от НБА, който умря ненадейно на 42-годишна възраст, под заглавие " Брандън Хънтър ненужен на 42 години ".
След това, през октомври, Microsoft разгласява публикация, в която се твърди, че Дийн Престън, член на надзорния съвет на Сан Франциско, е подал оставка след рецензии от страна на Илон Мъск. Историята е безусловно погрешна.
Някои от въпросните подправени вести в началото са част от дребни уеб страници и на процедура може би са щели да останат незабелязани в ежедневния поток от онлайн дезинформация, само че решението на софтуерния колос да ги препубликува ги прави налични за милиони читатели, вдъхвайки живот на погрешните изказвания в тях.
Редактори, които преди този момент са работили за Microsoft, разясняват пред CNN, че този тип подправени истории, както и съвсем всички останали публикации от нискокачествени уеб страници, е нямало да бъдат показани от Microsoft, в случай че не беше потреблението на изкуствен интелект.
Ненадеждни източници
Рин Пфеуфър, която е работила с спирания като подизпълнител за Microsoft в продължение на осем години, изяснява, че през май 2020 година е получила позвъняване с новината, че целият ѝ екип е скъсен.
2020 година е годината, в която, съгласно изказването на представител на Microsoft, компанията стартира да минава към " персонализиран канал ", който е " приспособен от логаритъм към ползите на нашата публика ".
Като редактор в начин на живот вертикалата на уеб страницата, работата на Пфеуфър включва избор и куриране на истории, които да бъдат включени в уеб страниците на Microsoft.
" Имахме в действителност обединен, супер надарен публицистичен екип и всички бяхме работили дружно дълго време ", споделя Пфеуфър пред CNN. „ Групата, включваща публицисти ветерани, приемащи съществено отговорностите си на куратори “.
От Microsoft отхвърлят да кажат какъв брой, в случай че въобще има такива, човешки редактори към момента работят по подреждането на уеб страницата или всичко се прави от изкуствен интелект и логаритми.
Прелиствайки началната страница на Microsoft преди няколко седмици, споделя Пфеуфър, тя ми изглеждаше неузнаваема спрямо портала, който аз и сътрудниците ми в миналото курирахме. В уеб страницата се появяват освен обективно погрешни и необикновени истории, само че и искрено хиперпартийни публикации със заглавия като " Трябва ли Америка да се отърве от Байдън вечно? " и " Тъмната страна на злополуката, която се разпростира при Джо Байдън ".
Тези истории не идват от одобрени новинарски организации, а от уеб сайтове с малко или никаква информация за това кой стои зад тях или детайлности за публицистичните им стандарти.
Пфеуфър е безапелационна, че тези уеб сайтове и заглавията от тях в никакъв случай не биха били показани на видно място на началната страница на Microsoft, до момента в който тя и сътрудниците ѝ от редакцията са работили там.
Тези погрешни и смущаващи истории не се появяват в някое отдалечено кътче на интернет – те са оповестени от Microsoft. Началната страница на компанията, известна още като MSN.com и Microsoft Start, остава един от най-посещаваните уеб страници в света и мястото, от което милиони се осведомят всеки ден. Но решението на софтуерния колос да разчита от ден на ден на автоматизирани принадлежности и изкуствен интелект вместо на редактори за подреждането на началната страница наподобява води до усилване на подправените истории в уеб страницата, оповестява CNN, базирайки се на свидетелства на хора, осведомени с метода на работа на уеб страницата.
Страницата, която е начална по дифолт на устройствата със програмен продукт на Microsoft, в това число на най-новата итерация на Edge, правоприемник на Internet Explorer, е наела повече от 800 редактори през 2018 година, с цел да помогне за подбора и подреждането на новинарските истории, показвани на милиони читатели по целия свят. Но през последните години Microsoft уволнява доста от тях, като на някои им е обяснено, че са сменени от " автоматизация " и изкуствен интелект.
Ранната инвестиция на Microsoft в OpenAI - основател на нашумялото приложение ChatGPT, го сложи отпред на обещаващата и евентуално рискова гражданска война на изкуствения разсъдък, даже когато президентът на софтуерния колос обществено изнесе лекция за виновното потребление на технологията.
Но очевидната виновност на AI за неотдавнашното усилване на подправените истории на Microsoft повдига въпроси за общественото приемане на зараждащата се технология от страна на компанията и за бъдещето на журналистическата промишленост като цяло.
The Guardian
Притесненията и напрежението по отношение на потреблението на AI от Microsoft във връзка с новинарското наличие се ускориха, откакто английският вестник The Guardian упрекна компанията в уронване на репутацията му, откакто разгласява на уеб страницата си негова публикация.
За да зарежда своя мощно посещаван новинарски портал, Microsoft е сключила лицензионни съглашения с огромни новинарски организации по света, в това число The Guardian и CNN, които разрешават на софтуерния колос да препубликува техни материали в подмяна на дял от приходите от реклама.
Миналата седмица The Guardian пуска публикация за Лили Джеймс, 21-годишна жена, открита мъртва със съществени пострадвания по главата в учебно заведение в Сидни, Австралия. Новината провокира вълна от тъга и народен диалог за насилието над дами в Австралия.
Но когато MSN препубликува историята на The Guardian, тя е съпроводена с анкета, генерирана от изкуствен интелект, в която читателите се питат: " Каква съгласно вас е повода за гибелта на дамата? " Изброени са три благоприятни условия: ликвидиране, акцидент или самоубийство. Анкетата провокира рецензии от страна на читателите, а един от тях написа: " Това би трябвало да е най-жалкото и непоносимо допитване, което в миналото съм виждал ".
Анна Бейтсън, основен изпълнителен шеф на медийната група The Guardian, декларира в остро писмо до Microsoft, че автоматизирано генерираната анкета е " надълбоко тревожно " приложение на технологията за изкуствен интелект на компанията и желае тя да поеме цялостна отговорност.
" Подобно приложение е освен евентуално притеснително за фамилията на индивида, който е обект на историята, само че и надълбоко нездравословно за мъчно извоюваната известност на The Guardian за надеждна и деликатна публицистика, както и за репутацията на обособените публицисти, които са написали истинската история ", написа Бейтсън в писмото от си до президента на Microsoft Брад Смит.
Бейтсън прибавя, че потреблението на анкета, генерирана от изкуствен интелект, дружно със публикацията, е " тъкмо подобен случай, за който предупреждавахме по отношение на новините " и е " съществена причина, заради която преди този момент поискахме от Вашите екипи да не ползват пробните технологии за генеративен AI към публицистиката, лицензирана от The Guardian ".
Говорител на Microsoft показва, че компанията деактивира всички анкети в новинарските публикации и " проверява повода за несъответствуващото наличие “.
„ Анкета не би трябвало да се появява дружно със публикация от подобен темперамент и ние подхващаме стъпки, с цел да помогнем за попречване на повторното пораждане на сходна неточност в бъдеще ", показват от Microsoft.
Фалшиви вести
Но тази анкета не е първият обществен гаф, породен от прегръдката сред AI и Microsoft. През август MSN показва на началната си страница история, която погрешно твърди, че президентът Джо Байдън е задремал по време на минута безмълвие за жертвите на пагубния горски пожар в Мауи.
През идващия месец Microsoft препубликува история за Брандън Хънтър, някогашен състезател от НБА, който умря ненадейно на 42-годишна възраст, под заглавие " Брандън Хънтър ненужен на 42 години ".
След това, през октомври, Microsoft разгласява публикация, в която се твърди, че Дийн Престън, член на надзорния съвет на Сан Франциско, е подал оставка след рецензии от страна на Илон Мъск. Историята е безусловно погрешна.
Някои от въпросните подправени вести в началото са част от дребни уеб страници и на процедура може би са щели да останат незабелязани в ежедневния поток от онлайн дезинформация, само че решението на софтуерния колос да ги препубликува ги прави налични за милиони читатели, вдъхвайки живот на погрешните изказвания в тях.
Редактори, които преди този момент са работили за Microsoft, разясняват пред CNN, че този тип подправени истории, както и съвсем всички останали публикации от нискокачествени уеб страници, е нямало да бъдат показани от Microsoft, в случай че не беше потреблението на изкуствен интелект.
Ненадеждни източници
Рин Пфеуфър, която е работила с спирания като подизпълнител за Microsoft в продължение на осем години, изяснява, че през май 2020 година е получила позвъняване с новината, че целият ѝ екип е скъсен.
2020 година е годината, в която, съгласно изказването на представител на Microsoft, компанията стартира да минава към " персонализиран канал ", който е " приспособен от логаритъм към ползите на нашата публика ".
Като редактор в начин на живот вертикалата на уеб страницата, работата на Пфеуфър включва избор и куриране на истории, които да бъдат включени в уеб страниците на Microsoft.
" Имахме в действителност обединен, супер надарен публицистичен екип и всички бяхме работили дружно дълго време ", споделя Пфеуфър пред CNN. „ Групата, включваща публицисти ветерани, приемащи съществено отговорностите си на куратори “.
От Microsoft отхвърлят да кажат какъв брой, в случай че въобще има такива, човешки редактори към момента работят по подреждането на уеб страницата или всичко се прави от изкуствен интелект и логаритми.
Прелиствайки началната страница на Microsoft преди няколко седмици, споделя Пфеуфър, тя ми изглеждаше неузнаваема спрямо портала, който аз и сътрудниците ми в миналото курирахме. В уеб страницата се появяват освен обективно погрешни и необикновени истории, само че и искрено хиперпартийни публикации със заглавия като " Трябва ли Америка да се отърве от Байдън вечно? " и " Тъмната страна на злополуката, която се разпростира при Джо Байдън ".
Тези истории не идват от одобрени новинарски организации, а от уеб сайтове с малко или никаква информация за това кой стои зад тях или детайлности за публицистичните им стандарти.
Пфеуфър е безапелационна, че тези уеб сайтове и заглавията от тях в никакъв случай не биха били показани на видно място на началната страница на Microsoft, до момента в който тя и сътрудниците ѝ от редакцията са работили там.
Източник: profit.bg
КОМЕНТАРИ