Социалните медии не могат вечно да крият проблемите си зад изкуствения интелект
Определено има положителни аргументи да се разкрият тайните на колосите, предоставящи платформи за обществени медии. През последното десетилетие държавните управления гледаха безпомощно по какъв начин техните демократични процеси са нарушавани от дезинформация и тирада на омразата в уеб сайтове като Фейсбук на Meta Platforms, YouTube на Alphabet и Twitter. Сега някои държавни управления готвят отмъщение, написа Парми Олсън за Bloomberg.
През идващите две години Европа и Англия ще вкарат закони, които ще овладеят проблематичното наличие, чието вирусно разпространяване разрешиха софтуерните колоси. Досега имаше доста песимизъм по отношение на способността да се надникне под повърхността на компании като Фейсбук. Регулаторите не разполагат с техническата експертиза, работната мощ и заплатите, с които Big Tech могат да се похвалят. Има и още един механически проблем: системите за изкуствен интелект, които софтуерните компании употребяват, са извънредно сложни за дешифриране.
Но скептиците би трябвало да имат едно мислено. Разработват се нови технологии, които ще създадат проучването на тези системи по-лесно. Т. нар. " проблем на черната кутия " на изкуствения разсъдък не е толкоз непрогледен, колкото мнозина си мислят.
Изкуственият разсъдък стои зад множеството от дейностите, които виждаме във Фейсбук или YouTube. Най-вече това се отнася за избора на изявления, които се показват на даден консуматор, както и при видеата – всичко това цели да накара хората да прекарват повече време в приложението. Множество данни се употребяват за образование на изкуствения разсъдък, което му разрешава да прави прогнози, ненапълно сходни на човешките. Трудната част за инженерите е да схванат по какъв начин изкуственият разсъдък взема решения. Оттук идва и концепцията за черната кутия.
Подобен абсурд визира моделите за машинно образование. Понякога те дават верен отговор, само че дизайнерите им постоянно не могат да обяснят по какъв начин. Появява се дребна, само че разрастваща се промишленост, която следи по какъв начин работят тези системи. Нейната най-популярна задача е да усъвършенства продуктивността на моделите, употребяващи изкуствен интелект. Компаниите, които ги употребяват, също желаят да се уверят, че техният изкуствен интелект не взема пристрастни решения, когато, да вземем за пример, преглежда кандидатури за работа или отпуска заеми.
Ето образец по какъв начин работи един от тези стартъпи. Финансова компания неотдавна употребява израелския стартъп Aporia, с цел да ревизира дали акция за привличане на студенти работи. Aporia открива, че системата за изкуствен интелект на компанията в действителност прави неточности - отпуска заеми на някои младежи, на които не би трябвало, или излишно лишава от заеми други. Когато Aporia преглежда проблема по-подробно открива и казуса: делът на студентите при данните, употребявани за обучаването на изкуствения разсъдък на компанията, е по-малко от 1%.
Според представител на Европейската комисия идният Закон за цифровите услуги ще изисква онлайн платформите да се подлагат на одити един път годишно, с цел да се оцени какъв брой „ рискови “ са техните логаритми за жителите. Това от време на време може да принуди компаниите да дават невиждан достъп до информация, която мнозина считат за комерсиална загадка: код, данни за образование и регистрационни файлове на процеси.
Дори европейските регулатори да не могат да ровят в кодовете на Фейсбук или YouTube, както и в логаритмите, които вземат решение какви изявления да се предлагат, въпреки всичко могат да създадат доста.
Маноел Рибейро, докторант на Швейцарския федерален софтуерен институт, разгласява изследване през 2019 година, в което той и негови сътрудници наблюдават по какъв начин някои гости на YouTube са били радикализирани от крайнодясно наличие. Те вършат това, без да им е необходим достъп до код. Изследователите просто са прегледали мненията на уеб страницата, с цел да видят към какви канали са се насочили потребителите с течение на времето. Това е като следене на цифрови отпечатъци – трудоемък развой, само че в последна сметка разкрива по какъв начин част от потребителите на YouTube са били примамвани в характерни канали посредством така наречен „ инфлуенсъри “.
Проучването на Рибейро е част от по-широк набор от проучвания, които наблюдават психическите странични резултати на Фейсбук или YouTube, без да е належащо да се схващат техните логаритми. Въпреки че оферират относително повърхностни вероятности за това по какъв начин работят платформите на обществените медии, те въпреки всичко могат да оказват помощ на регулаторите да наложат по-широки условия на платформите.
Това е радикално друга вероятност от потайността, при която софтуерните колоси можеха да работят до момента. И ще включва както нови технологии, по този начин и нови политики. За регулаторите това може да е печеливша композиция.
През идващите две години Европа и Англия ще вкарат закони, които ще овладеят проблематичното наличие, чието вирусно разпространяване разрешиха софтуерните колоси. Досега имаше доста песимизъм по отношение на способността да се надникне под повърхността на компании като Фейсбук. Регулаторите не разполагат с техническата експертиза, работната мощ и заплатите, с които Big Tech могат да се похвалят. Има и още един механически проблем: системите за изкуствен интелект, които софтуерните компании употребяват, са извънредно сложни за дешифриране.
Но скептиците би трябвало да имат едно мислено. Разработват се нови технологии, които ще създадат проучването на тези системи по-лесно. Т. нар. " проблем на черната кутия " на изкуствения разсъдък не е толкоз непрогледен, колкото мнозина си мислят.
Изкуственият разсъдък стои зад множеството от дейностите, които виждаме във Фейсбук или YouTube. Най-вече това се отнася за избора на изявления, които се показват на даден консуматор, както и при видеата – всичко това цели да накара хората да прекарват повече време в приложението. Множество данни се употребяват за образование на изкуствения разсъдък, което му разрешава да прави прогнози, ненапълно сходни на човешките. Трудната част за инженерите е да схванат по какъв начин изкуственият разсъдък взема решения. Оттук идва и концепцията за черната кутия.
Подобен абсурд визира моделите за машинно образование. Понякога те дават верен отговор, само че дизайнерите им постоянно не могат да обяснят по какъв начин. Появява се дребна, само че разрастваща се промишленост, която следи по какъв начин работят тези системи. Нейната най-популярна задача е да усъвършенства продуктивността на моделите, употребяващи изкуствен интелект. Компаниите, които ги употребяват, също желаят да се уверят, че техният изкуствен интелект не взема пристрастни решения, когато, да вземем за пример, преглежда кандидатури за работа или отпуска заеми.
Ето образец по какъв начин работи един от тези стартъпи. Финансова компания неотдавна употребява израелския стартъп Aporia, с цел да ревизира дали акция за привличане на студенти работи. Aporia открива, че системата за изкуствен интелект на компанията в действителност прави неточности - отпуска заеми на някои младежи, на които не би трябвало, или излишно лишава от заеми други. Когато Aporia преглежда проблема по-подробно открива и казуса: делът на студентите при данните, употребявани за обучаването на изкуствения разсъдък на компанията, е по-малко от 1%.
Според представител на Европейската комисия идният Закон за цифровите услуги ще изисква онлайн платформите да се подлагат на одити един път годишно, с цел да се оцени какъв брой „ рискови “ са техните логаритми за жителите. Това от време на време може да принуди компаниите да дават невиждан достъп до информация, която мнозина считат за комерсиална загадка: код, данни за образование и регистрационни файлове на процеси.
Дори европейските регулатори да не могат да ровят в кодовете на Фейсбук или YouTube, както и в логаритмите, които вземат решение какви изявления да се предлагат, въпреки всичко могат да създадат доста.
Маноел Рибейро, докторант на Швейцарския федерален софтуерен институт, разгласява изследване през 2019 година, в което той и негови сътрудници наблюдават по какъв начин някои гости на YouTube са били радикализирани от крайнодясно наличие. Те вършат това, без да им е необходим достъп до код. Изследователите просто са прегледали мненията на уеб страницата, с цел да видят към какви канали са се насочили потребителите с течение на времето. Това е като следене на цифрови отпечатъци – трудоемък развой, само че в последна сметка разкрива по какъв начин част от потребителите на YouTube са били примамвани в характерни канали посредством така наречен „ инфлуенсъри “.
Проучването на Рибейро е част от по-широк набор от проучвания, които наблюдават психическите странични резултати на Фейсбук или YouTube, без да е належащо да се схващат техните логаритми. Въпреки че оферират относително повърхностни вероятности за това по какъв начин работят платформите на обществените медии, те въпреки всичко могат да оказват помощ на регулаторите да наложат по-широки условия на платформите.
Това е радикално друга вероятност от потайността, при която софтуерните колоси можеха да работят до момента. И ще включва както нови технологии, по този начин и нови политики. За регулаторите това може да е печеливша композиция.
Източник: moreto.net
КОМЕНТАРИ