Рискован ход: Енергийните компании ще използват AI за генериране на документи за ядрено лицензиране
Microsoft и Westinghouse Nuclear изследват по какъв начин изкуственият разсъдък може да форсира утвърждението и построяването на нови нуклеарни мощности в Съединени американски щати. Но нов разбор на AI Now Institute, представен от 404 Media, предизвестява, че сходен метод може да докара до съществени опасности за сигурността.
Лицензирането на нуклеарни уреди е измежду най-строго контролираните процеси в промишлеността, точно с цел да се минимизира рискът от радиационни произшествия. Въпреки че процедурата е дълга и скъпа, 404 Media отбелязва, че тя е основен фактор за това Съединени американски щати да имат извънредно невисок брой повреди в нуклеарната енергетика.
Растящото ползване на сила, подхранвано от AI бранша, кара софтуерни колоси като Microsoft да търсят способи за ускорение на процесите. Компанията reportedly възнамерява да образова огромен езиков модел върху съществуващи лицензионни документи и данни за строителни площадки, с цел да автоматизира основаването на нужната документи.
Idaho National Laboratory - държавна лаборатория към Министерството на енергетиката - към този момент употребява AI решения на Microsoft, с цел да " усъвършенства " подаването на документи към регулатора. Според институцията системата може да подкрепи основаването на инженерни и безопасностни разбори за строителни разрешителни и оперативни лицензи.
Експерти предизвестяват за съществени пробойни в сигурността
Анализът на AI Now Institute слага под въпрос концепцията основни детайли от нуклеарния лицензонен развой да се делегират на LLM модели. Изследователите припомнят, че лицензиране на нуклеарно оборудване не е просто генериране на документи, а комплициран, многоетапен развой, чиято цел е да разпознава и предотврати опасности още преди началото на строителството.
Хейди Хлааф, основен AI академик в института, отбелязва, че сходен метод може рисково да опрости развой, който съществува точно с цел да предотврати пагубни неточности. Нейната съавторка Мая Гуера акцентира, че сигурността в нуклеарната енергетика е резултат от години прегледи, проверки и разбори на минали проблеми - стъпки, които AI системите могат да заобиколят или съкратят.
Паралели с юридическата сфера
Подобни опити с AI в други високорискови области към този момент сътвориха проблеми. Американските съдилища на няколко пъти се сблъскаха с правни документи, генерирани от AI, съдържащи несъществуващи прецеденти, неверни обстоятелства или измислено наличие. Изследователите предизвестяват, че сходни " халюцинации " биха могли да се трансферират и в техническа документи за нуклеарни уреди - със доста по-висока цена на грешката.
Отвъд техническите опасности, отчетът повдига и въпроси за сигурността. Обучението на AI модели върху подробни нуклеарни данни може да усили риска от разпространяване на сензитивна информация. Според AI Now, Microsoft е поискала достъп до исторически и проектно-специфични набори от данни - нещо, което откривателите поясняват като опит за акумулиране на сериозна техническа информация от страна на комерсиални AI снабдители.
Тъй като нуклеарните технологии са двойно предопределение - използвани както за енергетика, по този начин и за оръжейни разработки - даването на такива материали на огромни езикови модели може несъзнателно да улесни злонамерени артисти.
Лицензирането на нуклеарни уреди е измежду най-строго контролираните процеси в промишлеността, точно с цел да се минимизира рискът от радиационни произшествия. Въпреки че процедурата е дълга и скъпа, 404 Media отбелязва, че тя е основен фактор за това Съединени американски щати да имат извънредно невисок брой повреди в нуклеарната енергетика.
Растящото ползване на сила, подхранвано от AI бранша, кара софтуерни колоси като Microsoft да търсят способи за ускорение на процесите. Компанията reportedly възнамерява да образова огромен езиков модел върху съществуващи лицензионни документи и данни за строителни площадки, с цел да автоматизира основаването на нужната документи.
Idaho National Laboratory - държавна лаборатория към Министерството на енергетиката - към този момент употребява AI решения на Microsoft, с цел да " усъвършенства " подаването на документи към регулатора. Според институцията системата може да подкрепи основаването на инженерни и безопасностни разбори за строителни разрешителни и оперативни лицензи.
Експерти предизвестяват за съществени пробойни в сигурността
Анализът на AI Now Institute слага под въпрос концепцията основни детайли от нуклеарния лицензонен развой да се делегират на LLM модели. Изследователите припомнят, че лицензиране на нуклеарно оборудване не е просто генериране на документи, а комплициран, многоетапен развой, чиято цел е да разпознава и предотврати опасности още преди началото на строителството.
Хейди Хлааф, основен AI академик в института, отбелязва, че сходен метод може рисково да опрости развой, който съществува точно с цел да предотврати пагубни неточности. Нейната съавторка Мая Гуера акцентира, че сигурността в нуклеарната енергетика е резултат от години прегледи, проверки и разбори на минали проблеми - стъпки, които AI системите могат да заобиколят или съкратят.
Паралели с юридическата сфера
Подобни опити с AI в други високорискови области към този момент сътвориха проблеми. Американските съдилища на няколко пъти се сблъскаха с правни документи, генерирани от AI, съдържащи несъществуващи прецеденти, неверни обстоятелства или измислено наличие. Изследователите предизвестяват, че сходни " халюцинации " биха могли да се трансферират и в техническа документи за нуклеарни уреди - със доста по-висока цена на грешката.
Отвъд техническите опасности, отчетът повдига и въпроси за сигурността. Обучението на AI модели върху подробни нуклеарни данни може да усили риска от разпространяване на сензитивна информация. Според AI Now, Microsoft е поискала достъп до исторически и проектно-специфични набори от данни - нещо, което откривателите поясняват като опит за акумулиране на сериозна техническа информация от страна на комерсиални AI снабдители.
Тъй като нуклеарните технологии са двойно предопределение - използвани както за енергетика, по този начин и за оръжейни разработки - даването на такива материали на огромни езикови модели може несъзнателно да улесни злонамерени артисти.
Източник: money.bg
КОМЕНТАРИ