Престъпления на мисълта: AI вече чете служебни чатове
Стотици хиляди чиновници на големи компании като Starbucks, Delta Airlines, T-Mobile, Chevron, Nestle или AstraZeneca са под наблюдаване. Не от камерите в офисите им, а от логаритми, които проучват всеки техен мейл и всяко известие в Slack, MS Teams или Zoom.
Целта - шефовете в действително време да наблюдават по какъв начин подчинените им реагират на една или друга смяна в политиките. А също и да се засичат грубиянско и токсично държание, тормоз и всевъзможни нарушавания на вътрешните правила. Какво може да се обърка?
Много малко, в случай че питате изпълнителния шеф на стартъпа Aware, който е една от водещите компании в сферата с топ клиенти като изредените нагоре. Пред CNBC той изяснява, че платформата му разрешава на бизнесите посредством AI " да схващат риска в границите на връзките си " и да наблюдават настроенията измежду чиновниците в действително време - а не посредством въпросници, които се попълнят 1-2 пъти годишно.
Регулациите идват: Брюксел утвърди първия в света закон за изкуствения разсъдък
Ще спънат ли новите правила нововъведенията?
Как работи?
Когато нов клиент стартира да работи с Aware, в границите на 2 седмици AI моделите учат връзката сред чиновниците и по този начин се " ориентират " какво е обикновено и какво - не. Събраната информация се употребява за възстановяване на цялата система.
По думите на Шуман компанията разполага с " най-бързо растящият неструктуриран набор от данни в света " - по 100 млн. единици наличие се обработва всеки ден.
От анализите се схваща, да вземем за пример, кои екипи поддържат връзка най-вече, само че и какво си споделят. Aware има два продукта - аналитичният демонстрира трендове в границите на възрастови, географски и така нататък групи, които са анонимизирани. eDiscovery обаче разрешава HR, звеното за сигурност или различен отдел да има достъп до съответната връзка на съответен чиновник, който, да вземем за пример, е бил " махленски " от AI, че заплашва сътрудници.
Какви са проблемите?
Според съоснователя на оргаизацията Humane Intelligence Юта Уилямс този вид автоматизирани системи са евентуално проблематични: " Това се трансформира в гонене на " закононарушения на мисълта " (каквито ги знаем от " 1984 " на Джордж Оруел - б.р.). Хората се третират като инвентар по метод, който не съм виждала ".
Изпълнителният шеф на института AI Now в Нюйоркския университет Амба Как разяснява пред CNBC, че системи като тази на Aware имат " вцепеняващ резултат върху това какво хората си споделят на работното място " и " има също толкоз доста проблеми по линия на правата на чиновниците, колкото и във връзка с персоналната цялост " - а и редица държавни структури като FTC и Министерството на правораздаването са изказали угриженост по случая.
Как фирмите употребяват AI за тотално следене на чиновниците си
Може да ви уволнят след рекомендация от логаритъм, който дори не работи надеждно
Всичко това явно не е огромен проблем за Aware. Приходите на компанията са скачали приблизително с по 150% годишно през последните 5 години, а клиентите ѝ са с по няколко десетки хиляди чиновници. Освен това, не е единствената сходна - има най-малко още 5 участници в конкуренцията за най-ефективно AI следене на чиновниците.
Целта - шефовете в действително време да наблюдават по какъв начин подчинените им реагират на една или друга смяна в политиките. А също и да се засичат грубиянско и токсично държание, тормоз и всевъзможни нарушавания на вътрешните правила. Какво може да се обърка?
Много малко, в случай че питате изпълнителния шеф на стартъпа Aware, който е една от водещите компании в сферата с топ клиенти като изредените нагоре. Пред CNBC той изяснява, че платформата му разрешава на бизнесите посредством AI " да схващат риска в границите на връзките си " и да наблюдават настроенията измежду чиновниците в действително време - а не посредством въпросници, които се попълнят 1-2 пъти годишно.
Регулациите идват: Брюксел утвърди първия в света закон за изкуствения разсъдък
Ще спънат ли новите правила нововъведенията?
Как работи?
Когато нов клиент стартира да работи с Aware, в границите на 2 седмици AI моделите учат връзката сред чиновниците и по този начин се " ориентират " какво е обикновено и какво - не. Събраната информация се употребява за възстановяване на цялата система.
По думите на Шуман компанията разполага с " най-бързо растящият неструктуриран набор от данни в света " - по 100 млн. единици наличие се обработва всеки ден.
От анализите се схваща, да вземем за пример, кои екипи поддържат връзка най-вече, само че и какво си споделят. Aware има два продукта - аналитичният демонстрира трендове в границите на възрастови, географски и така нататък групи, които са анонимизирани. eDiscovery обаче разрешава HR, звеното за сигурност или различен отдел да има достъп до съответната връзка на съответен чиновник, който, да вземем за пример, е бил " махленски " от AI, че заплашва сътрудници.
Какви са проблемите?
Според съоснователя на оргаизацията Humane Intelligence Юта Уилямс този вид автоматизирани системи са евентуално проблематични: " Това се трансформира в гонене на " закононарушения на мисълта " (каквито ги знаем от " 1984 " на Джордж Оруел - б.р.). Хората се третират като инвентар по метод, който не съм виждала ".
Изпълнителният шеф на института AI Now в Нюйоркския университет Амба Как разяснява пред CNBC, че системи като тази на Aware имат " вцепеняващ резултат върху това какво хората си споделят на работното място " и " има също толкоз доста проблеми по линия на правата на чиновниците, колкото и във връзка с персоналната цялост " - а и редица държавни структури като FTC и Министерството на правораздаването са изказали угриженост по случая.
Как фирмите употребяват AI за тотално следене на чиновниците си
Може да ви уволнят след рекомендация от логаритъм, който дори не работи надеждно
Всичко това явно не е огромен проблем за Aware. Приходите на компанията са скачали приблизително с по 150% годишно през последните 5 години, а клиентите ѝ са с по няколко десетки хиляди чиновници. Освен това, не е единствената сходна - има най-малко още 5 участници в конкуренцията за най-ефективно AI следене на чиновниците.
Източник: money.bg
КОМЕНТАРИ