Според OpenAI, GPT-4 може да замени хората-модератори
OpenAI съобщи, че нейните разработки могат да улеснят решаването на една от най-трудните и разочароващи механически задания – задачата за модериране на наличието. Големият езиков модел GPT-4 на компанията е в положение да размени десетки хиляди хора-модератори, като показва същата висока акуратност и даже повече.
OpenAI разгласи в корпоративния си блог, че към този момент употребява GPT-4, с цел да усъвършенства личните си политики за наличие, етикетиране и самостоятелни решения. Компанията даже уточни редица преимущества на изкуствения разсъдък пред обичайните подходи за модериране на наличие.
На първо място, хората интерпретират политиките по разнообразни способи, до момента в който машините са поредни в преценките си. Насоките за модериране могат да бъдат обемни и непрекъснато изменящи се – на хората им е належащо дълго време, с цел да се научат и приспособяват към измененията, до момента в който огромните езикови модели ползват новите политики неотложно. Второ, GPT-4 е в положение да помогне за създаването на нова политика в границите на няколко часа. Процесът на етикетиране, събиране на противоположна връзка и рационализиране нормално лишава седмици или даже месеци. Трето, не може да се подценява психическото благоденствие на служащите, които вследствие на работата си са непрекъснато изложени на злонамерено наличие.
Популярните обществени мрежи съществуват от съвсем две десетилетия, да не приказваме за други онлайн общности, само че модерирането на наличието към момента е една от най-трудните задания за онлайн платформите. Meta, Гугъл и TikTok са основали цели армии от модератори, които би трябвало да преглеждат извънредно и постоянно травматично наличие. Повечето от тях живеят в нископлатени страни, работят в аутсорсинг компании и се пробват да се оправят с контузиите сами с минимална помощ.
Самата OpenAI към момента разчита в огромна степен на човешки запаси – тя наема служащи от африкански страни, които да разясняват и маркират наличие. Това наличие може да бъде проблематично, което прави работата на тези чиновници стресираща при ниско възнаграждение. Meta, Гугъл и TikTok употребяват лични модели с изкуствен интелект в допълнение към човешките модератори, тъй че препоръчаното от OpenAI решение ще се окаже потребно за по-малките компании, които нямат запаси за създаването на лични системи.
Всяка платформа признава, че не съществуват съвършени механизми за модериране в огромен мащаб – и хората, и машините вършат неточности. Процентът на грешките може да е невисок, само че към момента има милиони евентуално нездравословни изявления, които си проправят път към общественото пространство и евентуално също толкоз безвредно наличие, което се скрива или отстранява. И най-после, не трябва да се не помнят вътрешните проблеми, присъщи за системите с изкуствен интелект като „ халюцинациите “, които също могат да усложнят работата на ИИ модераторите.
