Във Великобритания виждат кибер рискове зад изкуствения интелект
Британски чиновници предизвестяват организациите за консолидираното на ръководени от изкуствен интелект чатботове в техния бизнес, заявявайки, че проучванията от ден на ден демонстрират, че те могат да бъдат подмамени да извършват нездравословни задания.
Британският народен център за киберсигурност (NCSC) сподели, че специалистите към момента не са се справили с евентуалните проблеми със сигурността свързани с новаторската технология.
Задвижваните от изкуствен интелект принадлежности стартират да се употребяват като чатботове, които някои плануват да изместят освен търсенията в интернет, само че и работата по обслужване на клиенти и продажби.
NCSC сподели, че това може да носи опасности, изключително в случай че такива модели са включени в бизнес процесите на други детайли на организацията. Академици и откриватели неведнъж са намирали способи да манипулират чатботовете , като им подават лъжливи команди или ги заблуждават да заобикалят личните си вградени защитни огради.
Например, задвижван от изкуствен интелект чатбот, внедрен от банка, може да бъде подведен да извърши неодобрена транзакция, в случай че хакер структурира поръчката си вярно.
" Организациите, изграждащи услуги, които употребяват огромни езикови модели (LLM) трябва да бъдат деликатни, по същия метод, по който биха били, в случай че употребяват артикул или кодова библиотека, която е в бета версия ", сподели NCSC, като се базира на пробни версии на програмен продукт.
" Те може да не разрешат на този артикул да взе участие в осъществяването на транзакции от името на клиента и да се надяваме, че няма да му се доверят изцяло. "
Британското разузнаване изключва изкуственият разсъдък да размени хората шпиони
Човешкият фактор щял да остане от решаващо значение
Британският народен център за киберсигурност (NCSC) сподели, че специалистите към момента не са се справили с евентуалните проблеми със сигурността свързани с новаторската технология.
Задвижваните от изкуствен интелект принадлежности стартират да се употребяват като чатботове, които някои плануват да изместят освен търсенията в интернет, само че и работата по обслужване на клиенти и продажби.
NCSC сподели, че това може да носи опасности, изключително в случай че такива модели са включени в бизнес процесите на други детайли на организацията. Академици и откриватели неведнъж са намирали способи да манипулират чатботовете , като им подават лъжливи команди или ги заблуждават да заобикалят личните си вградени защитни огради.
Например, задвижван от изкуствен интелект чатбот, внедрен от банка, може да бъде подведен да извърши неодобрена транзакция, в случай че хакер структурира поръчката си вярно.
" Организациите, изграждащи услуги, които употребяват огромни езикови модели (LLM) трябва да бъдат деликатни, по същия метод, по който биха били, в случай че употребяват артикул или кодова библиотека, която е в бета версия ", сподели NCSC, като се базира на пробни версии на програмен продукт.
" Те може да не разрешат на този артикул да взе участие в осъществяването на транзакции от името на клиента и да се надяваме, че няма да му се доверят изцяло. "
Британското разузнаване изключва изкуственият разсъдък да размени хората шпиони
Човешкият фактор щял да остане от решаващо значение
Източник: news.bg
КОМЕНТАРИ