OpenAI спряла пет опита за манипулация на моделите ѝ
Създателят на ChatGPT, OpenAI, разгласи, че през последните три месеца е засякъл и спрял пет " секрети интервенции за въздействие " върху логаритмите и моделите ѝ. В уеб страницата си компанията разказа, че задачата на тези интервенции е била да се повлияе на публичното мнение и на политически резултати.
Петте интервенции са желали да употребяват моделите на OpenAI, с цел да " популяризират и поддържат подвеждаща активност из Интернет ". Компанията споделя, че и петте акции са били разкрити и прекратени. Засега няма индикации, че са имали забележителен резултат върху аудиторията или са нараснали разпространяването си поради логаритмите.
OpenAI разказва петте интервенции, които са разкрити и спрени. Компанията не споделя кой стои зад тях, само че разказва от кое място произлизат географски.
Първата е кръстена Bad Grammar. Дейността ѝ е била най-вече в приложението Telegram в Украйна, Молдова, Балтийските страни и Съединени американски щати, като географски произлиза от Русия. Авторите на акцията са употребявали моделите на OpenAI, с цел да усъвършенстват програмен код за ботове в Telegram, както и да основават къси политически мнения, които да популяризират в приложението.
Втората акция е била от китайската хакерска мрежа Spamouflage. Тя е употребила логаритмите, с цел да проучва интензивността на хората в обществените мрежи, да генерира текстове на няколко езика, които са популяризирани в разнообразни платформи и още веднъж за програмиране.
Третата интервенция е кръстена Dopplelganger, произлизаща още веднъж от съветска територия. Авторите ѝ са употребявали моделите, с цел да генерират мнения на няколко езика, които да популяризират в обществени мрежи. Генерирали са и текстове, които са обобщили вести в изявления за Фейсбук, превеждали са и са редактирали текстове за уеб сайтове, свързани с активността им.
Четвъртата интервенция е кръстена IUVM (Международен съюз за виртуални медии), произлизаща от иранска територия. Тя е употребена за превод на дълги текстове, заглавия, детайли за уебстраници.
OpenAI е кръстила последната интервенция Zero Zeno. Тя произлиза от израелска територия и е употребена за сходни действия като предходните. Съдържанието и на петте е било ориентирано към настоящи политически тематики, спорове и е разпространявало избрани гледни точки и рецензии.
OpenAI споделя, че продължава работата по разкриване и прекратяване и на други опити за корист с логаритмите ѝ. За задачата си сътрудничи с външни специалисти и сътрудници, самостоятелни организации, институции и други, с цел да може да им противодейства. Компанията споделя, че ще разгласява отчети за разкритите акции и отсега нататък.
Не пропускайте най-важните вести - последвайте ни в
Петте интервенции са желали да употребяват моделите на OpenAI, с цел да " популяризират и поддържат подвеждаща активност из Интернет ". Компанията споделя, че и петте акции са били разкрити и прекратени. Засега няма индикации, че са имали забележителен резултат върху аудиторията или са нараснали разпространяването си поради логаритмите.
OpenAI разказва петте интервенции, които са разкрити и спрени. Компанията не споделя кой стои зад тях, само че разказва от кое място произлизат географски.
Първата е кръстена Bad Grammar. Дейността ѝ е била най-вече в приложението Telegram в Украйна, Молдова, Балтийските страни и Съединени американски щати, като географски произлиза от Русия. Авторите на акцията са употребявали моделите на OpenAI, с цел да усъвършенстват програмен код за ботове в Telegram, както и да основават къси политически мнения, които да популяризират в приложението.
Втората акция е била от китайската хакерска мрежа Spamouflage. Тя е употребила логаритмите, с цел да проучва интензивността на хората в обществените мрежи, да генерира текстове на няколко езика, които са популяризирани в разнообразни платформи и още веднъж за програмиране.
Третата интервенция е кръстена Dopplelganger, произлизаща още веднъж от съветска територия. Авторите ѝ са употребявали моделите, с цел да генерират мнения на няколко езика, които да популяризират в обществени мрежи. Генерирали са и текстове, които са обобщили вести в изявления за Фейсбук, превеждали са и са редактирали текстове за уеб сайтове, свързани с активността им.
Четвъртата интервенция е кръстена IUVM (Международен съюз за виртуални медии), произлизаща от иранска територия. Тя е употребена за превод на дълги текстове, заглавия, детайли за уебстраници.
OpenAI е кръстила последната интервенция Zero Zeno. Тя произлиза от израелска територия и е употребена за сходни действия като предходните. Съдържанието и на петте е било ориентирано към настоящи политически тематики, спорове и е разпространявало избрани гледни точки и рецензии.
OpenAI споделя, че продължава работата по разкриване и прекратяване и на други опити за корист с логаритмите ѝ. За задачата си сътрудничи с външни специалисти и сътрудници, самостоятелни организации, институции и други, с цел да може да им противодейства. Компанията споделя, че ще разгласява отчети за разкритите акции и отсега нататък.
Не пропускайте най-важните вести - последвайте ни в
Източник: vesti.bg
КОМЕНТАРИ