Сигурността на отворените ИИ проекти се оказа ниска
Най-популярните от тях са рисковани за внедряване в бизнес решенията, настояват специалисти
Повече от 30 хиляди плана, употребяващи модела GPT-3.5, са интегрирани в разнообразни софтуерни решения, въпреки че имат ниско равнище на сигурност
(снимка: CC0 Public Domain)
Нови планове за изкуствен интелект (ИИ ) с отворен код, основани на огромни езикови модели, набират голяма известност за броени месеци. Но съгласно експерти, на които се базира тематичният уеб запас Dark Reading, тяхното равнище на сигурност остава ниско . Освен това от хилядите дейни версии на такива плана , някои от най-младите са най-популярни.
След като проучва 50-те най-популярни плана, основани на огромни езикови модели (LLM) в хранилището GitHub, компанията за киберсигурност Rezilion стигна до забавни изводи. За оценката е употребен инструментът Scorecard от Open Source Security Foundation, който взема поради разнообразни характерности на плановете – от броя на уязвимостите до поддръжката.
От дебюта на ChatGPT преди няколко месеца повече от 30 хиляди плана, употребяващи модела GPT-3.5, се появиха в GitHub и към този момент са интегрирани в разнообразни софтуерни решения. Изследователите са съставили „ карта ” на известни планове, където оста Y демонстрира равнището на тяхната известност, а оста X – равнището на сигурност въз основа на рейтинга на OpenSSF Scorecard. Резултатът е, че нито един от оценените планове не получава повече от 6,1 точки от 10 вероятни.
още по темата
С други думи, всички най-популярни LLM решения са свързани с високо равнище на риск, а междинният резултат е 4,6. Това значи, че фирмите, които употребяват решения въз основата на LLM, неизбежно излагат бизнеса си на риск.
Най-популярният план – Auto-GPT, който означи съвсем 140 хиляди звезди в рейтинга на GitHub, се появи в хранилището преди по-малко от три месеца и е оценен с 3,7 по скалата на Scorecard, а това го прави извънредно опасен. Новите планове означават експоненциален растеж на известност, само че разработчиците и екипите по сигурността би трябвало да са наясно с рисковете, свързани с сходни решения.
Средната оценка на изследваните LLM планове в GitHub е 4,6 точки от 10 вероятни
(източник: Religion)
Според специалистите на Religion, когато става въпрос за нов план, е невероятно да се предвижда надеждно дали той ще се развие и ще бъде подсилен. След като бързо доближиха върха на известността си, доста планове останаха с ниско равнище на сигурност. При оценка на съотношението на възрастта на плановете и тяхното равнище в Scorecard, се оказва, че най-популярните разработки са на два месеца и са оценени с 4,5-5 точки от 10 вероятни.
Повече от 30 хиляди плана, употребяващи модела GPT-3.5, са интегрирани в разнообразни софтуерни решения, въпреки че имат ниско равнище на сигурност
(снимка: CC0 Public Domain)
Нови планове за изкуствен интелект (ИИ ) с отворен код, основани на огромни езикови модели, набират голяма известност за броени месеци. Но съгласно експерти, на които се базира тематичният уеб запас Dark Reading, тяхното равнище на сигурност остава ниско . Освен това от хилядите дейни версии на такива плана , някои от най-младите са най-популярни.
След като проучва 50-те най-популярни плана, основани на огромни езикови модели (LLM) в хранилището GitHub, компанията за киберсигурност Rezilion стигна до забавни изводи. За оценката е употребен инструментът Scorecard от Open Source Security Foundation, който взема поради разнообразни характерности на плановете – от броя на уязвимостите до поддръжката.
От дебюта на ChatGPT преди няколко месеца повече от 30 хиляди плана, употребяващи модела GPT-3.5, се появиха в GitHub и към този момент са интегрирани в разнообразни софтуерни решения. Изследователите са съставили „ карта ” на известни планове, където оста Y демонстрира равнището на тяхната известност, а оста X – равнището на сигурност въз основа на рейтинга на OpenSSF Scorecard. Резултатът е, че нито един от оценените планове не получава повече от 6,1 точки от 10 вероятни.
още по темата
С други думи, всички най-популярни LLM решения са свързани с високо равнище на риск, а междинният резултат е 4,6. Това значи, че фирмите, които употребяват решения въз основата на LLM, неизбежно излагат бизнеса си на риск.
Най-популярният план – Auto-GPT, който означи съвсем 140 хиляди звезди в рейтинга на GitHub, се появи в хранилището преди по-малко от три месеца и е оценен с 3,7 по скалата на Scorecard, а това го прави извънредно опасен. Новите планове означават експоненциален растеж на известност, само че разработчиците и екипите по сигурността би трябвало да са наясно с рисковете, свързани с сходни решения.
Средната оценка на изследваните LLM планове в GitHub е 4,6 точки от 10 вероятни
(източник: Religion)
Според специалистите на Religion, когато става въпрос за нов план, е невероятно да се предвижда надеждно дали той ще се развие и ще бъде подсилен. След като бързо доближиха върха на известността си, доста планове останаха с ниско равнище на сигурност. При оценка на съотношението на възрастта на плановете и тяхното равнище в Scorecard, се оказва, че най-популярните разработки са на два месеца и са оценени с 4,5-5 точки от 10 вероятни.
Източник: technews.bg
КОМЕНТАРИ