Точни преди един месец компанията xAI на Илън Мъск стартира

Точни преди един месец компанията xAI на Илън Мъск започва Grokipedia – онлайн енциклопедия, в която публикациите се пишат от асистента с изкуствен интелект Grok. Още на идващия ден в Grokipedia имаше повече от 885 000 публикации, написани и тествани от изкуствен интелект. Илън Мъск написа в своя акаунт в X, че идващите версии на Grokipedia ще бъдат още по-добри, само че „ даже във версия 0.1 тя е по-добра от Wikipedia “.

Въпреки гръмкото изказване на предприемача, медиите и откривателите по дезинформация откриха в публикациите на ресурса голям брой следи от недодялан скрейпинг на данни, цензура на „ неуместни “ за създателя тематики, расизъм и други.

Какво е Grok

Grok е чатбот, основан на огромен езиков модел (LLM), създаден от компанията xAI на Маск. Grok беше пуснат през ноември 2023 година и в началото беше наличен за потребителите на X (тогава Twitter) с абонамент Premium+. Чатботът е кръстен с директна отпратка към британския глагол „ grok “, въведен в приложимост от американския публицист Робърт А. Хайнлайн в научнофантастичния разказ „ Чужденец в непозната страна “ през 1961 година за изложение на схващане, по-дълбоко от човешкото – това име добре отразява упоритостите на компанията-разработчик да накара AI да „ схваща “ нещата в дълбочина.

Докато X в началото се нареждаше като „ платформа за свободно слово “, а Grok – като „ по-малко цензуриран AI “, стартирането на енциклопедията Grokipedia е още една стъпка към образуването на различна осведомителна вертикала.

Стартирана с упоритостта да „ даде повече истина от Wikipedia “, Grokipedia бързо натрупа огромен набор от публикации – повече от 885 000 през първия ден. В професионалната общественост обаче незабавно породи въпросът: може ли енциклопедия, написана напълно от изкуствен интелект да претендира, че е благонадежден източник на информация?

Моделът Grok, залегнал в основата на плана постоянно е описван като „ иронична “, „ по-малко контролирана “ и „ по-близка до потребителя “ опция на други известни чатботове. Мъск съобщи задачата си да сътвори сбирка от „ истината, цялата истина и нищо друго с изключение на истината “, а мемето „ Grok, is this true? “ (Grok, правилно ли е това?) към този момент стана част от културата в X.

Въпреки че това меме се употребява най-вече по комичен метод, то илюстрира един обезпокоителен проблем: потребителите желаят от AI модела да удостовери или отхвърли обещано изказване, очаквайки „ по-честен “ отговор единствено тъй като е изказан от изкуствен интелект.

Как работи инспекцията в Wikipedia и за какво изкуственият разсъдък не може да я размени

Илън Мъск систематично подлага на критика Wikipedia, наричайки онлайн енциклопедията „ лява “ и „ идеологически пристрастна “. Той твърди, че уеб сайтът е „ следен от крайнолеви деятели “ и приканва да се спрат даренията за Wikipedia. Когато Мъск разгласи Grokipedia, той акцентира, че тя е основана да бъде „ по-малко пристрастна “ от Wikipedia и има за цел „ да почисти пропагандата “.

За разлика от Grokipedia обаче, която в действителност съществува като затворен артикул с непрозрачни способи за генериране и асортимент на информация, Wikipedia се основава на неприкритост и надзор от страна на общността.

Модерацията в Wikipedia се реализира на две равнища. Първото е автоматизирана отбрана против вандализъм или спам редакции. Второто е необятна гама от доброволци, в това число патрулиращи, опитни консуматори и админи. Тази многостепенна конструкция прави Уикипедия устойчива на операции. Дори когато има опити за целенасочена дезинформация, общността може да реагира бързо, а прозрачността на историята на редакциите разрешава на всеки да наблюдава какво тъкмо се е трансформирало в дадена публикация.

На този декор Grokipedia наподобява съвсем противоположно: неразбираем източник на обстоятелства, непрогледен логаритъм и никаква публицистична политика или правила. Освен това доста публикации в Грокипедия отчасти или напълно копират наличието на Уикипедия, като от време на време трансформират тона или обстоятелствата. В Wikipedia изкуствен интелект се употребява отдавна, само че единствено за помощни задания: преводи, автоматизиране на рутинни промени и търсене на източници, само че не и за писане на публикации от нулата.

Grokipedia като инструмент за въздействие: опасности и манипулативни практики

Grokipedia съществува единствено от няколко седмици, само че полемиките към платформата припомнят за дебатите към Truth Social или други „ различни “ платформи, които претендират, че са „ свободни от цензура “.

Съоснователката на StopFake Оля Юркова споделя, че когато даден план упорства за „ независимост “ като своя съществена полезност, това нормално значи липса на правила за инспекция на обстоятелствата, публицистични стандарти и отговорност:

„ Такива енциклопедии могат да възстановяват неточната информация и да подкопаят доверието в авторитетните източници. Това основава удобна почва за операции. “

Проучване на The Guardian към този момент е открило систематични проблеми в Grokipedia: селективни източници, снизходително отношение към екстремистки групи и превес на идеологическите разкази над обстоятелствата. Това са типичен признаци на екосистема за дезинформация, която се маскира като „ различна позиция “.

Например, до момента в който в Wikipedia нападението против Капитолия в Съединени американски щати на 6 януари 2021 година е наречено „ опит за държавен прелом “ (форма на държавен прелом, при която политически водач, пристигнал на власт законно, остава на власт нелегално посредством личните си дейности или тези на поддръжниците си), формулировката от Grokipedia за „ многочислени известия за изборни нередности “ наподобява като опрощение за протестите на поддръжниците на Доналд Тръмп и омаловажаване на насилието. В нея се показва също, че „ множеството “ от участниците „ не са имали огнестрелно оръжие и нахлуването е било прекъснато в границите на няколко часа “. Вместо това читателите на Wikipedia могат да научат това, което самият Конгрес е открил: протестите са били несполучливи, само че е бил на разположение целеустремен опит на Тръмп да анулира същинските резултати от изборите.

Друг образец: В Wikipedia Джордж Флойд е разказан като негър мъж, погубен от бял служител на реда, което провокира вълна от общонационални митинги против полицейската грубост и расизма в Съединени американски щати. Wikipedia разказва Флойд най-вече посредством престъпното му минало: „ Джордж Пери Флойд-младши е американец с дълго престъпно минало, включващо присъди за въоръжен обир, владеене на опиати и кражба в Тексас от 1997 до 2007 година. “

Информация за Департамента за държавна успеваемост (DOGE) липсва в Grokipedia, като се има поради, че Илън Мъск беше началник на тази американска държавна организация, основана от президента Тръмп, с цел да реши казуса с неефективността на федералното държавно управление. (Думата Doge е обвързвана със публикация за интернет мемето на кучето шиба-ну). Читателите на Wikipedia могат да се срещнат с ролята на DOGE в всеобщите уволнения на федерални чиновници и закриването на държавни структури, макар че пълномощията на самата DOGE са неразбираеми.

Международните прегледи сочат огромен брой операции, само че прибавя, че в свободните общества сходни планове надали ще се трансфорат в действителни съперници на Wikipedia.

Защо хората имат вяра на „ различни “ източници и по какъв начин това е обвързвано с логиката на психиката

Появата на Grokipedia още веднъж повдигна тематиката за по този начин нареченото „ користолюбие към престижа “ – т.е. когато хората са склонни да имат вяра на думите на обществено, съгласно тях, авторитетно лице, макар че това може да докара до разпространяване на дезинформация. Някои консуматори не се доверяват на институциите и формалните източници и са склонни да имат вяра на това, което се показва като „ истината, която се крие “. Изглежда, че благодарение на своите запаси Илън Мъск се пробва да приказва от двата лагера в това уравнение.

Междувременно Мъск от ден на ден уголемява евентуалното си въздействие и основава свои лични „ различни “ структури: обществена мрежа, AI модел, а в този момент и онлайн енциклопедия. SpaceX влага милиарди в xAI, което укрепва позициите на Мъск в AI промишлеността. Чрез тази „ империя “ неговите компании (Tesla, SpaceX, xAI, X) се трансформират във взаимосвързани принадлежности на властта. С тази тактика Grokipedia може да работи освен като енциклопедия, само че и като „ информативен център “: нейното наличие може да повлияе на логаритмите на Grok, а Grok може да повлияе на публичния дискурс по отношение на X.

Това е метод Мъск да се трансформира в „ редактор на действителността “. Контролирането на източниците на познание е дълготрайна тактика за въздействие. Ако изкуственият разсъдък стартира да разчита на Grokipedia като източник, въздействието му ще бъде доста по-широко от въздействието върху потребителите – то ще обхване и образуването на бъдещите генерации информация. “

Всъщност става дума за това, че осведомителната екосистема на Мъск може да се трансформира в затворена система и да се състои от X, Grok, Grokipedia и отговорите на AI, които ще се базират на материали от същата екосистема. В подобен затворен цикъл външните източници на информация ще бъдат изтласкани в периферията. Ще успее ли Grokipedia да измести и размени Wikipedia при тези условия?

Oпределен % от хората с ниска цифрова просветеност може да объркат двата ресурса, тъкмо както някои консуматори могат да считат Фейсбук за „ интернет “. В това обаче няма сериозна опасност като цяло. По-големият риск е, че хората от ден на ден търсят информация от чатботове с изкуствен интелект, а не от Wikipedia. Това трансформира целия пейзаж на достъпа до познания. До огромна степен тази наклонност се дефинира даже не от Grokipedia или xAI, а от Гугъл. Компанията все по-често внедрява AI систематизирания на информацията, което понижава трафика към външни източници.

Популярността на Grokipedia измежду избрани групи хора е изцяло допустима, изключително измежду тези, които към този момент не се доверяват на обичайните медии и Wikipedia, само че дълготрайният триумф ще зависи от способността да се сътвори постоянна система на доверие, а освен да се подлагат на критика „ мейнстрийм “ източниците. Така че през днешния ден Grokipedia наподобява повече на опит, в сравнение с главен съперник на Wikipedia, само че нейното въздействие може да нарасне доста, в случай че тя се трансформира в един от източниците за огромните езикови модели, захранващи другите приложения с изкуствен интелект.