Меню
Назад » » 2021 » Январь » 12

Исследование показало, что люди не смогут управлять сверхразумными машинами

  • 12.01.2021
  • 144 Просмотра
  • Обсудить

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами, передает UfoSpace.net со ссылкой на naked-science.ru.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.


Никто не решился оставить свой комментарий.
Будь-те первым, поделитесь мнением с остальными.
avatar
Читайте также
16.01.2021 в 18:29 В Капитолии готовится какая-то провокация?

Одной из основных тем, которую вот уже несколько дней склоняют все мировые СМИ, стало размещение в Вашингтоне вообще и в Капитолии в частности ОГРОМНОГО количества национальных гвардейцев. Сколько их там точно никто не знает, но называют цифру до 30 000 в В...

Читать далее

16.01.2021 в 18:12 Астрофизики придумали способ красть энергию у черных дыр
Дело за малым: нужно подобраться к самому горизонту событий и сгенерировать магнитное поле, которое будет определенным образом пересекаться с магнитным полем черной дыры

Читать далее

16.01.2021 в 18:02 Почему спутники Starlink стали невидимыми для человеческого глаза?
С помощью обсерватории ALMA ученые впервые заметили, как далекая галактика выбросила в окружающий космос почти половину газа, который необходим ей для формирования звезд. Количество газа, которое выходит из этой галактики за один земной год, в 10 тыс. раз боль...

Читать далее

16.01.2021 в 11:53 "Хаббл" обнаружил следы космической катастрофы
Космический телескоп "Хаббл" запечатлел газовые струи, расходящиеся от места взрыва сверхновой в галактике — спутнике Млечного Пути.

Читать далее

16.01.2021 в 11:48 Определена длина тела одной из самых крупных акул юрского периода
Ученые из Австрии и Швейцарии описали хорошо сохранившийся скелет доисторической акулы Asteracanthus. Результаты исследований позволили выяснить, что длина рыбы составляла 2,5 метра: это делает акулу одной из самых больших для своего времени....

Читать далее