&format=webp)
Фалшивата автентичност на социалните мрежи – защо Сам Алтман обвинява ботовете?
Сам Алтман, съосновател на OpenAI, вложител в платформата Reddit и извънредно деен консуматор в X, насочва наблюдаване, което на пръв взор звучи леко тривиално, само че в действителност слага значим въпрос пред аудиторията: дали през днешния ден е допустимо да отличим кои изявления в обществените мрежи са написани от хора – и кои от ботове.
Алтман споделя, че е достигнал до това просветление, до момента в който четял изявления в r/Claudecode – събредит, отдаден на съперника на OpenAI, Claude Code. В него все по-често се появяват постове от консуматори, които настояват, че са минали към OpenAI Codex – услуга за програмисти, пусната през май като директен съперник на Claude. Дори един закачлив коментар във форума гласи: „ Възможно ли е да преминеш към Codex, без да пуснеш тематика в Reddit? “
Този повтарящ се сюжет кара Алтман да се усъмни: какъв брой от тези изявления са действителни въобще? „ Имах най-странното прекарване, до момента в който четях това: допускам, че всичко е било подправено или директно обвързвано с ботове, макар че в този случай знам, че растежът на Codex е в действителност мощен и наклонността тук е действителна “, написа той в X, представен от Tech Crunch.
Алтман признава, че даже действителните консуматори стартират да пишат по метод, който припомня на този, който употребяват огромните езикови модели.
Причините съгласно него са няколко: първо, цикълът на хайп културата – присъщото за софтуерните общности прекосяване от еуфория до отчаяние и обратно; второ, логаритмите на ангажираността, посредством които обществените мрежи изтласкват най-емоционалното и извънредно наличие, тъй като то носи повече кликове и реакции; трето, монетизацията на наличието, която подтиква създателите да пишат по метод, гарантиращ по-голяма видимост и доходи; и най-после, „ астротърфинг “ – изкуствено основана вълна от изявления, от време на време от действителни хора, различен път от ботове, платени от компании, с цел да основат усещане за известност или поддръжка. Не е без значение, че моделите на OpenAI са обучавани върху данни от Reddit – платформа, в чийто ръб Алтман участваше до 2022 година, а по-късно се трансформира и в важен акционер след IPO-то на компанията.
Съоснователят на OpenAI също по този начин акцентира, че онлайн общности, задвижвани основно от почитатели, постоянно развиват крайни държания – от паметна поддръжка до всеобщо отчаяние. Пример за това е събредитът r/GPT, който след стартирането на версията GPT-5.0 бързо се изпълни с рецензии вместо с предстоящи похвали. Потребителите се оплакват от новата „ персона “ на модела и от по-бързото амортизиране на заеми, което докара до това Алтман персонално да провежда AMA (Ask Me Anything) сесия и да признае проблемите с GPT-5.0.
„ Нетният резултат е, че по някакъв метод AI Twitter/AI Reddit се усещат доста подправени по метод, по който не бяха преди година или две “, обобщава Алтман.
Данните поддържат това чувство. Според Imperva над половината от интернет трафика през 2024 година е генериран от „ безчовечен “ източници, главно LLM. Собственият бот на X – Grok – също удостоверява: „ Точните числа не са обществено притежание, само че оценките за 2024 година допускат стотици милиони ботове в X. “
Някои коментатори обаче подозират, че Алтман приготвя почвата за лична обществена мрежа на OpenAI – слух, за който още през април The Verge заяви, че е в ранен стадий на развиване. Ако сходен план се трансформира в действителност, огромният въпрос ще бъде: може ли да бъде основана „ зона без ботове “?
Историята подсказва, че отговорът евентуално ще бъде негативен. Експеримент, извършен от Университета в Амстердам, основава обществена мрежа, в която напълно ботове генерират наличие и взаимодействат между тях, като демонстрира, че даже те образуват групи и ехо-камери – по същия метод, по който го вършат и хората.
Алтман слага диагнозата, само че лекуването наподобява е някъде надалеч в бъдещето. Социалните мрежи постоянно са имали проблем с ботовете – само че през днешния ден, с помощта на LLM, „ човешкото “ и „ машинното “ стартират да звучат по съвсем един и същи метод.
Алтман споделя, че е достигнал до това просветление, до момента в който четял изявления в r/Claudecode – събредит, отдаден на съперника на OpenAI, Claude Code. В него все по-често се появяват постове от консуматори, които настояват, че са минали към OpenAI Codex – услуга за програмисти, пусната през май като директен съперник на Claude. Дори един закачлив коментар във форума гласи: „ Възможно ли е да преминеш към Codex, без да пуснеш тематика в Reddit? “
Този повтарящ се сюжет кара Алтман да се усъмни: какъв брой от тези изявления са действителни въобще? „ Имах най-странното прекарване, до момента в който четях това: допускам, че всичко е било подправено или директно обвързвано с ботове, макар че в този случай знам, че растежът на Codex е в действителност мощен и наклонността тук е действителна “, написа той в X, представен от Tech Crunch.
Алтман признава, че даже действителните консуматори стартират да пишат по метод, който припомня на този, който употребяват огромните езикови модели.
Причините съгласно него са няколко: първо, цикълът на хайп културата – присъщото за софтуерните общности прекосяване от еуфория до отчаяние и обратно; второ, логаритмите на ангажираността, посредством които обществените мрежи изтласкват най-емоционалното и извънредно наличие, тъй като то носи повече кликове и реакции; трето, монетизацията на наличието, която подтиква създателите да пишат по метод, гарантиращ по-голяма видимост и доходи; и най-после, „ астротърфинг “ – изкуствено основана вълна от изявления, от време на време от действителни хора, различен път от ботове, платени от компании, с цел да основат усещане за известност или поддръжка. Не е без значение, че моделите на OpenAI са обучавани върху данни от Reddit – платформа, в чийто ръб Алтман участваше до 2022 година, а по-късно се трансформира и в важен акционер след IPO-то на компанията.
Съоснователят на OpenAI също по този начин акцентира, че онлайн общности, задвижвани основно от почитатели, постоянно развиват крайни държания – от паметна поддръжка до всеобщо отчаяние. Пример за това е събредитът r/GPT, който след стартирането на версията GPT-5.0 бързо се изпълни с рецензии вместо с предстоящи похвали. Потребителите се оплакват от новата „ персона “ на модела и от по-бързото амортизиране на заеми, което докара до това Алтман персонално да провежда AMA (Ask Me Anything) сесия и да признае проблемите с GPT-5.0.
„ Нетният резултат е, че по някакъв метод AI Twitter/AI Reddit се усещат доста подправени по метод, по който не бяха преди година или две “, обобщава Алтман.
Данните поддържат това чувство. Според Imperva над половината от интернет трафика през 2024 година е генериран от „ безчовечен “ източници, главно LLM. Собственият бот на X – Grok – също удостоверява: „ Точните числа не са обществено притежание, само че оценките за 2024 година допускат стотици милиони ботове в X. “
Някои коментатори обаче подозират, че Алтман приготвя почвата за лична обществена мрежа на OpenAI – слух, за който още през април The Verge заяви, че е в ранен стадий на развиване. Ако сходен план се трансформира в действителност, огромният въпрос ще бъде: може ли да бъде основана „ зона без ботове “?
Историята подсказва, че отговорът евентуално ще бъде негативен. Експеримент, извършен от Университета в Амстердам, основава обществена мрежа, в която напълно ботове генерират наличие и взаимодействат между тях, като демонстрира, че даже те образуват групи и ехо-камери – по същия метод, по който го вършат и хората.
Алтман слага диагнозата, само че лекуването наподобява е някъде надалеч в бъдещето. Социалните мрежи постоянно са имали проблем с ботовете – само че през днешния ден, с помощта на LLM, „ човешкото “ и „ машинното “ стартират да звучат по съвсем един и същи метод.
Източник: profit.bg
КОМЕНТАРИ