Мъск, Возняк и още 1000 водещи IT експерти призоваха да се спре обучението на невронните мрежи, които са по-добри от GPT-4
Илън Мъск, Стив Возняк и над 1000 други водещи специалисти по изкуствен интелект и представители на ИТ промишлеността приканиха за шестмесечен мораториум върху образованието на системи за изкуствен интелект, които са по-продуктивни от неотдавна показания модел GPT-4 на OpenAI. В отворено писмо те предизвестяват за евентуалните опасности за обществото. Информацията е на организация Reuters.
Писмото е оповестено от Института с нестопанска цел Future of Life (Бъдещето на живота) и е подписано от редица видни представители на ИТ промишлеността. Всички те приканват за „ пауза “ в развиването на изкуствения разсъдък, преди да бъдат създадени общи протоколи и стандарти за сигурността за промишлеността, чиито използване да бъде тествано от самостоятелни инспектори.
В писмото се акцентира, че мощните системи за изкуствен интелект би трябвало да се създават единствено откакто човечеството се увери в позитивните последствия от тези разработки и че обвързваните с тях опасности са управляеми. В писмото се загатват и евентуалните закани за обществото и цивилизацията, които съставляват системите с ИИ, способни да се конкурират с хората, което може да докара до стопански и/или политически разтърсвания. Разработчиците се приканват да работят в тясно съдействие с регулаторните органи.
„ Обширни проучвания демонстрират, че сходни системи с изкуствен интелект, които се конкурират с хората, могат да съставляват сериозна заплаха за цялото човечество “, се споделя в писмото.
Писмото бе оповестено, откакто Европол се причисли към групата, загрижена за развиването на изкуствения разсъдък, и предизвести за опцията за корист от страна на хакери подкрепени от системи като ChatGPT – те могат да бъдат употребявани за организирането на невиждани до момента хакерски атаки, фишинг, дезинформация и киберпрестъпления. Мъск, чиято компания Tesla от дълго време употребява изкуствен интелект в системите си за автопилот, намерено и неведнъж показваше загрижеността си по отношение на заплахите от системите с изкуствен интелект.
От излизането си предходната година чатботът ChatGPT на OpenAI, подсилен от Microsoft, показва качества, които принудиха съперниците му незабавно да ускорят създаването на лични огромни езикови модели. В резултат на това фирмите започнаха преждевременно да интегрират генеративния изкуствен интелект в своите артикули. Според Future of Life основният изпълнителен шеф на OpenAI Сам Алтман не е подписал писмото и компанията е отказала коментар.
Според един от специалистите, належащо е да се забави свързаната с това активност, до момента в който човечеството не стартира да схваща по-добре последствията, защото системите с изкуствен интелект са способни да причинят съществени вреди. Особено откакто огромните играчи пазят в загадка информацията за това, върху което работят – тъй че за обществото ще бъде мъчно да се отбрани, ако се осъществен и най-лошите опасенията.
