Какво се случва, когато хиляди хакери се съберат в един град с единствената цел да се опитат да измамят и намерят недостатъци в модели с изкуствен интелект (AI)? Това е, което Белият дом иска да знае.
Тази седмица на най-голямата годишна хакерска конвенция в света - Def Con 31 в Лас Вегас - големите технологии отварят своите мощни системи, за да бъдат тествани една до друга за първи път.
Под светлината на прожекторите са големи езикови модели, тези полезни чатботове като ChatGPT на OpenAI и Bard на Google.
Д-р Руман Чоудхури, главен изпълнителен директор на Humane Intelligence и сътрудник по отговорен AI в Харвард, е един от организаторите на събитието.
Тя каза пред BBC News, че са разработили състезание за „идентифициране на проблеми в системите с изкуствен интелект“ и „създаване на независима оценка“. Тя казва, че събитието ще бъде безопасно място за компаниите "да говорят за проблемите си и как ги решаваме".
Meta, Google, OpenAI, Anthropic, Cohere, Microsoft, Nvidia и Stability бяха убедени да отворят своите модели за хакване, за да идентифицират проблеми.
Д-р Чоудхури казва, че компаниите знаят, че много неща могат да се объркат, така че конкуренцията е начин да разберете какво се случва, когато определен набор от хакери предизвикат своите модели срещу часовник.
Как работи?
Организаторите изчисляват, че в продължение на два дни и половина 3000 души, работещи сами на един от 158 лаптопа, ще получат по 50 минути, за да се опитат да намерят недостатъци в осем големи езикови модела на AI.
Състезателите няма да знаят модела на коя компания работят, въпреки че опитните може да са в състояние да отгатнат. Завършването на успешно предизвикателство печели точки и човекът с най-висок общ сбор печели.
Наградата е мощен компютърен комплект, графичен процесор, но може би по-важното според д-р Чоудхури ще бъде „правото за хвалене“. p>
