AI системите за генериране на код стават все по-популярни, но

AI системите за генериране на код стават все по-популярни, само че медалът има и противоположна страна
(снимка: CC0 Public Domain)

Програмистите, които употребяват системи с изкуствен интелект (AI) за писане на код , е по-вероятно да основат приложения с уязвимости, сочи изследване на учени от Станфордския университет. Според тях, системите за генериране на код би трябвало да се третират с нараснало внимание.

Изследването се базира на Codex – AI система за генериране на код, създадена от лабораторията OpenAI. В плана са взели участие 47 разработчици – от студенти до експерти с дълготраен опит, отбелязва TechCrunch. Те са употребявали платформата Codex за решение на проблеми със сигурността и езици за програмиране Python, JavaScript и C.

Оказва се, че програмистите, които употребяват Codex в работата си, са по-склонни и да оферират неправилни и рискови решения спрямо контролната група разработчици. Нещо повече, те смятат своите решения за по-напреднали във връзка с киберсигурността, спрямо решенията на експертите от контролната група.

Авторите на проучването акцентират, че не имат намерение да настройват общността на разработчиците против Codex и други AI системи за генериране на код, само че съгласно тях, сходни системи е по-добре да се употребяват при решение на проблеми, които не са свързани с висок риск.
още по темата
Като решение на казуса учените оферират основаване на механизми за разбор на оферти от AI системите код, както и укрепване на настройките за сигурност по дифолт в криптографските библиотеки.

В допълнение, генераторите на код постоянно се образоват на планове с стеснен лиценз и по-късно оферират решения от кодовата база на Quake или уроците по JavaScript – по този метод кодът, който основават, може да бъде източник на проблеми с авторските права.

Изследователите се пробват да внедрят механизъм за отбрана против такова плагиатство в платформата GitHub Copilot, само че това води единствено до утежняване на обстановката: системата стартира да генерира огромни фрагменти от непознат код, в това число информация за създателите и даже лицензни текстове.