Хакери могат да превърнат изкуствения интелект в оръжие, предупреждава Ерик Шмид
Бившият началник на Гугъл вижда в AI евентуална опасност, сравнима с нуклеарните технологии
Светлин Желев преди 10 секунди 0 СподелиНай-четени
КосмосЕмил Василев - 13:33 | 11.10.2025„ Роскосмос “ тества мотора на първата степен на ракетата „ Союз-5 “ – първото ѝ изстрелване е планувано за декември
IT НовиниДаниел Десподов - 15:47 | 10.10.2025Leonidas показа роботизиран танк за битка с дронове благодарение на микровълнови импулси
Изкуствен интелектЕмил Василев - 20:12 | 10.10.2025AI е разкрил два вероятни входа към „ подземни “ тунели на Луната
Светлин Желевhttps://www.kaldata.com/Главен редакторБившият изпълнителен шеф на Гугъл Ерик Шмид насочи обезпокоително предизвестие за уязвимостта на системите с изкуствен интелект, които съгласно него могат да бъдат хакнати и превърнати в принадлежности за опустошение. По време на полемика на срещата на върха Sifted Summit, Шмид разяснява, че в неверни ръце AI може да се научи „ да убива “.
Той изясни, че експерти към този момент са потвърдили по какъв начин отбраните на някои модели – без значение дали са отворени или затворени – могат да бъдат заобиколени. Чрез подмолни команди, скрити в елементарни текстове, уеб страници или документи, хакери могат да накарат изкуствения разсъдък да извършва дейности, за които не е основан – от откриване на персонална информация до осъществяване на евентуално рискови интервенции. В някои случаи системите могат да бъдат подведени да пренебрегват личните си протоколи за сигурност и да генерират наличие, което е искрено нездравословно.
„ Все още нямаме ефикасен механизъм за надзор, нещо като режим на неразпространение при нуклеарните оръжия “, призна Шмид. Според него точно неналичието на сходен регулаторен метод трансформира изкуствения разсъдък в една от най-сериозните закани на нашето време.
Въпреки това някогашният началник на Гугъл резервира сдържан оптимизъм. По думите му AI има капацитет да промени света към по-добро, само че би трябвало да се употребява с разсъдък и надзор. Шмид е уверен, че актуалният напредък в бранша няма да завърши с провал, сходен на дотком балона от началото на века.
„ Не мисля, че ще забележим повтаряне на случилото се през 2000 година “, съобщи той. „ Инвеститорите, които влагат средствата си през днешния ден, имат вяра, че възвращаемостта в дълготраен проект ще бъде изключителна. Иначе за какво биха рискували толкоз доста? “
Така, до момента в който едни виждат в изкуствения разсъдък нова епоха на нововъведения, други – в това число Ерик Шмид – припомнят, че всяка революционна технология носи и своите тъмни страни.
