Нужен ли е на света проект „Манхатън“ за свръхинтелигентен AI?
В оповестен в сряда документ някогашният основен изпълнителен шеф на Гугъл Ерик Шмидт, основният изпълнителен шеф на Scale AI Александър Уанг и шефът на Центъра за сигурност на изкуствения разсъдък Дан Хендрикс са безапелационни: Съединени американски щати не би трябвало да се стремят към създаване на AI системи със „ гигантски “ разсъдък, известни още като AGI, в стила на плана „ Манхатън “.
В документа, озаглавен „ Стратегия за свръхинтелигентност “, се твърди, че нападателният блян на Съединени американски щати да управляват извънредно свръхинтелигентните AI системи може да провокира яростни ответни ограничения от страна на Китай. Te евентуално могат да дойдат под формата на хакерска атака, която да дестабилизира интернационалните връзки, написа Profit.bg.
„ Проект „ Манхатън “ за AGI допуска, че противниците ще се примирят с трайния дисбаланс, вместо да се опитат да го предотвратят “, пишат съавторите, представени от TechCrunch. „ Това, което стартира като блян към свръхоръжие и световен надзор, рискува да провокира враждебни контрамерки и ескалация на напрежението, като по този метод подкопае самата непоклатимост, която тактиката има за цел да обезпечи “.
Резултат от съавторство на три извънредно авторитетни фигури в американската промишленост за изкуствен интелект, документът се появява единствено няколко месеца, откакто комисия на Конгреса на Съединени американски щати предложи да се финансира създаването на AGI в жанр „ план Манхатън “. В случая се засяга американската стратегия за атомна бомба през 40-те години на предишния век. Министърът на енергетиката на Съединени американски щати Крис Райт неотдавна съобщи, че Съединени американски щати са в „ началото на нов план „ Манхатън “ за AI, до момента в който стоеше пред суперкомпютърна площадка дружно със съоснователя на OpenAI Грег Брокман.
Документът „ Стратегия за суперинтелигентност “ оспорва концепцията, поддържана от няколко американски политически и индустриални водачи през последните месеци, че подкрепяна от държавното управление стратегия за основаване на AGI е най-хубавият метод Съединени американски щати да се конкурира с Китай.
Според Шмидт, Уанг и Хендрикс това ще докара до „ обезпечено взаимно заличаване “. По същия метод, по който международните сили не се стремят към монопол върху нуклеарните оръжия - които биха могли да провокират предпазен удар от страна на съперника – настояват Шмидт и неговите съавтори, Съединени американски щати би трябвало да бъдат внимателни в конкуренцията за доминация при извънредно мощните системи за AI.
Въпреки че сравняването на AI системите с нуклеарни оръжия може да звучи извънредно, международните водачи към този момент считат технологията за водещо военно преимущество. Пентагонът към този момент твърди, че AI оказва помощ за ускорение на военната верига на убийства.
Шмидт, Уанг и Хендрикс оферират Съединени американски щати да изместят фокуса си от „ спечелването на конкуренцията за свръхинтелигентност “ към създаването на способи, които да възпират други страни да основават свръхинтелигентен AI. Съавторите настояват, че Вашингтон би трябвало да „ разшири арсенала си от хакерски атаки, с цел да деактивира заплашителни AI планове “, следени от други страни, както и да ограничи достъпа на съперниците си до усъвършенствани чипове за AI и модели с отворен код.
Съавторите на документа подчертават, че в света се следи дихотомия във връзка с AI. Има „ обречени “, които имат вяра, че пагубните последствия от развиването на AI са сигурни и се застъпват за закъснение на напредъка. От другата страна са „ щраусите “, които считат, че страните би трябвало да ускорят развиването на AI без защитни огради и всъщност просто се надяват, че всичко ще се получи по най-хубавия метод. Документът предлага трети метод: обмислен метод към развиването на AGI, който дава приоритет на защитните тактики.
Това предложение е изключително удивително за Шмидт, който преди е приказвал доста за нуждата Съединени американски щати да се конкурират нападателно с Китай в създаването на усъвършенствани AI системи. Само преди няколко месеца той разгласява публикация, в която споделя, че DeepSeek бележи повратна точка в американската конкуренция с Китай.
Администрацията на Тръмп наподобява твърдо решена да продължи напред в развиването на американския AI. Въпреки това, както означават съавторите, решенията на Америка по отношение на AGI не съществуват във вакуум. Докато светът следи по какъв начин Америка се стреми да разшири границите на технологията, Шмидт и неговите съавтори допускат, че може би е по-разумно да се схване защитителен метод.
