Хакерската конференция Def Con ще бъде домакин на хиляди „бели“ хакери, които ще се изправят срещу генеративен ИИ
Всяка година хакерската конференция Def Con събира експерти в региона на компютърната сигурност, публицисти, юристи, чиновници на федералното държавно управление на Съединени американски щати, откриватели и програмисти. Целта е „ хакването “ на хардуер, програмен продукт или нещо друго, което може да бъде „ хакнато “. Тазгодишното издание ще бъде с главен акцент върху логаритмите на изкуствения разсъдък.
Планирано за 10-13 август в Лас Вегас, изданието на конференцията Def Con за тази година ще бъде хазаин на огромно събитие, напълно отдадено на офанзивите против огромните езикови модели (LLM), употребявани от генеративните логаритми на изкуствения разсъдък. Популярната хакерска конференция ще бъде хазаин на самодейността AI Village (AIV) с първото обществено събитие на аления екип за генеративен ИИ.
Организаторите на Def Con чакат хиляди експерти по сигурността, студенти и „ бели “ хакери (те не употребяват своите познания, с цел да предизвикват щета, а да оказват помощ за възстановяване на сигурността в интернет) които се интересуват от тестването на услугите на LLM, като моделите на ИИ ще бъдат предоставени от Anthropic, Гугъл, Hugging Face, Nvidia, OpenAI и Stability. Тестерите и магьосниците на кода ще употребяват платформа за оценка, създадена от Scale AI.
Участниците ще употребяват преносими компютри, обезпечени от Def Con, който също по този начин ще ръководи времевия (и евентуално неограничен) достъп до голям брой LLM. Точкова система ще предизвиква тестването на необятен кръг от проблеми, като от алените екипи се чака да съблюдават „ хакерската хипократова клетва “ – каквото и да значи това в действителност. Лицето, което получи максимален брой точки, ще завоюва „ висок клас “ (макар и неуточнена) видеокарта Nvidia.
В формалния блог на AI Village се показва, че магистърските стратегии за висше обучение водят до невиждана детонация на творчеството, като оказват помощ на хората да осъществят концепциите си по-бързо, понижават бариерите за нахлуване в креативен области и разрешават „ нови типове креативно наличие “. С огромните сили обаче идват и още по-големи проблеми със сигурността, които едвам в този момент започваме да разбираме, защото LLM технологиите се автоматизират в голям мащаб.
Def Con ще обезпечи метод за намиране на повече проблеми в границите на LLM услугите, сподели Свен Катъл, създател на AI Village, защото премиите за неточности, хакерските събития онлайн и други „ задължения на общността в региона на сигурността “ могат да бъдат приспособени за тестване против системи, основани на модели за машинно образование. Събитието AI Village през август ще бъде „ взаимно изпитание “, което ще събере хакери, сътрудници от публични групи, групи с нестопанска цел и даже поддръжници на държавното управление на Съединени американски щати.
