Избориха най-големите заплахи за човечеството през 21 век
Съоснователят на Skype Яан Талин разпознава най-големите закани за съществуването на човечеството през този век,
Докато изключителните климатични обстановки и пандемията на ковид се преглеждат като проблеми, които изискват незабавни световни решения, Талин разяснява пред CNBC, че най-големите екзистенциални опасности до 2100 година ще произлизат от изкуствения разсъдък и синтетичната биология.
"Изменението на климата няма да бъде екзистенциален риск, в случай че не съществува сюжет да го избегнем. " А такива има доста.
Организацията на обединените народи призна рецесията с климата като "определящ въпрос за нашето време ", като дефинира въздействието й като световно и невиждано по мащаб.
Международната група също по този начин предизвести, че има тревожни доказателства, които допускат, че "важни повратни точки, водещи до необратими промени в главните екосистеми и планетарната климатична система, може към този момент да са били достигнати ".
Позовавайки се на книга от оксфордския професор Тоби Ор, Талин споделя, че има късмет един на шест души да не оцелеят през този век. Една от най-големите евентуални закани в близко бъдеще е точно изкуственият разсъдък, се показва в книгата.
Междувременно трудът установи и че вероятността климатичните промени да причинят човешко изгубване са по-малко от 1%.
Синтетичната биология е проектирането и конструирането на нови биологични елементи, устройства и системи, показва Талин.
Той обаче е по-притеснен точно от развиването на технологиите за изкуствен интелект (ИИ), заради което влага милиони долари, с цел да се опита да подсигурява, че технологията се развива безвредно.
Това включва ранни вложения в лаборатории за изкуствен интелект като DeepMind (отчасти, с цел да може той да следи какво правят) и финансиране на проучвания за сигурност на изкуствения разсъдък в университети като Оксфорд и Кеймбридж.
Предсказване на бъдещето на ИИ
Що се отнася до ИИ, никой не знае какъв брой интелигентни ще станат машините - невероятно е да предвидим какъв брой напреднали ще бъдат ИИ технологиите през идващите 10, 20 или 100 години.
Опитът да се предскаже бъдещето на ИИ се усложнява в допълнение от обстоятелството, че системите за ИИ стартират да основават други системи за ИИ без човешки принос.
По думите на съоснователя на Skype съществуват два съществени сюжета, които би трябвало да се изследват за сигурността на ИИ. Първият е лабораторен случай, при който проучвателен екип оставя през вечерта ИИ система да се тренира на няколко компютърни сървъри, а на сутринта "светът към този момент го няма ".
Вторият е, когато изследователският екип създава просто технология, която по-късно се възприема и ползва към разнообразни домейни, "което в последна сметка ще има трагичен резултат ". Експертът е по-фокусиран върху първия отрицателен сюжет, тъй като учените мислили по-малко върху него.
Отворени и затворени лаборатории
Най-големите софтуерни компании в света отделят милиарди долари за възстановяване на положението на ИИ. Въпреки че някои от техните проучвания се разгласяват намерено, огромна част от тях не се и това повдига паника.
Някои компании одобряват сигурността на ИИ по-сериозно от други, споделя още Талин. DeepMind да вземем за пример поддържа постоянни контакти с откриватели по сигурност на изкуствения разсъдък тук-там като Института за бъдещето на човечеството в Оксфорд. В него работят и десетки хора, които са фокусирани върху сигурността на ИИ.
В другия завършек на скалата корпоративните центрове като Гугъл Brain и Фейсбук AI Research са по-малко ангажирани с общността за сигурност на ИИ. И двете компании не разясняват тематиката след питане на CNBC.
Според Талин в ИИ могат да се изолират доста проблеми. Един от тях е расизмът. Ако това се случи, ще бъде по-добре в света да има по-малко участници в играта.
Той дава за образец технологията за изобретяването на нуклеарната бомба и това какъв брой проучвателен групи от разнообразни страни в действителност са работили по технологията. "Мисля, че обстановката е сходна ", споделя още той.
"Ако се окаже, че изкуственият разсъдък няма да бъде доста унищожителен в скоро време, тогава сигурно би било потребно фирмите да се пробват да решат някои от проблемите по по-добре разпределен метод ", добавя още Талин.
Докато изключителните климатични обстановки и пандемията на ковид се преглеждат като проблеми, които изискват незабавни световни решения, Талин разяснява пред CNBC, че най-големите екзистенциални опасности до 2100 година ще произлизат от изкуствения разсъдък и синтетичната биология.
"Изменението на климата няма да бъде екзистенциален риск, в случай че не съществува сюжет да го избегнем. " А такива има доста.
Организацията на обединените народи призна рецесията с климата като "определящ въпрос за нашето време ", като дефинира въздействието й като световно и невиждано по мащаб.
Международната група също по този начин предизвести, че има тревожни доказателства, които допускат, че "важни повратни точки, водещи до необратими промени в главните екосистеми и планетарната климатична система, може към този момент да са били достигнати ".
Позовавайки се на книга от оксфордския професор Тоби Ор, Талин споделя, че има късмет един на шест души да не оцелеят през този век. Една от най-големите евентуални закани в близко бъдеще е точно изкуственият разсъдък, се показва в книгата.
Междувременно трудът установи и че вероятността климатичните промени да причинят човешко изгубване са по-малко от 1%.
Синтетичната биология е проектирането и конструирането на нови биологични елементи, устройства и системи, показва Талин.
Той обаче е по-притеснен точно от развиването на технологиите за изкуствен интелект (ИИ), заради което влага милиони долари, с цел да се опита да подсигурява, че технологията се развива безвредно.
Това включва ранни вложения в лаборатории за изкуствен интелект като DeepMind (отчасти, с цел да може той да следи какво правят) и финансиране на проучвания за сигурност на изкуствения разсъдък в университети като Оксфорд и Кеймбридж.
Предсказване на бъдещето на ИИ
Що се отнася до ИИ, никой не знае какъв брой интелигентни ще станат машините - невероятно е да предвидим какъв брой напреднали ще бъдат ИИ технологиите през идващите 10, 20 или 100 години.
Опитът да се предскаже бъдещето на ИИ се усложнява в допълнение от обстоятелството, че системите за ИИ стартират да основават други системи за ИИ без човешки принос.
По думите на съоснователя на Skype съществуват два съществени сюжета, които би трябвало да се изследват за сигурността на ИИ. Първият е лабораторен случай, при който проучвателен екип оставя през вечерта ИИ система да се тренира на няколко компютърни сървъри, а на сутринта "светът към този момент го няма ".
Вторият е, когато изследователският екип създава просто технология, която по-късно се възприема и ползва към разнообразни домейни, "което в последна сметка ще има трагичен резултат ". Експертът е по-фокусиран върху първия отрицателен сюжет, тъй като учените мислили по-малко върху него.
Отворени и затворени лаборатории
Най-големите софтуерни компании в света отделят милиарди долари за възстановяване на положението на ИИ. Въпреки че някои от техните проучвания се разгласяват намерено, огромна част от тях не се и това повдига паника.
Някои компании одобряват сигурността на ИИ по-сериозно от други, споделя още Талин. DeepMind да вземем за пример поддържа постоянни контакти с откриватели по сигурност на изкуствения разсъдък тук-там като Института за бъдещето на човечеството в Оксфорд. В него работят и десетки хора, които са фокусирани върху сигурността на ИИ.
В другия завършек на скалата корпоративните центрове като Гугъл Brain и Фейсбук AI Research са по-малко ангажирани с общността за сигурност на ИИ. И двете компании не разясняват тематиката след питане на CNBC.
Според Талин в ИИ могат да се изолират доста проблеми. Един от тях е расизмът. Ако това се случи, ще бъде по-добре в света да има по-малко участници в играта.
Той дава за образец технологията за изобретяването на нуклеарната бомба и това какъв брой проучвателен групи от разнообразни страни в действителност са работили по технологията. "Мисля, че обстановката е сходна ", споделя още той.
"Ако се окаже, че изкуственият разсъдък няма да бъде доста унищожителен в скоро време, тогава сигурно би било потребно фирмите да се пробват да решат някои от проблемите по по-добре разпределен метод ", добавя още Талин.
Източник: blitz.bg
КОМЕНТАРИ