Меню

Free protonmail

Назад Главная » Паранормальные новости » Футуристика » 2015 » Октябрь » 11

Мы должны уже сейчас думать, как обезопасить искусственный интеллект


Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ― написал знаменитый физик, ― на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).

«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ― написал Хокинг, ― вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ― ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ― появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Интересные новости:

Подписывайтесь на наш Telegram, «X(twitter)» и «Zen.Yandex», «VK», «OK» и новости сами придут к вам..

По материалам: http://epochtimes.ru

Подписывайтесь на наш Telegram-канал, «X(twitter)» и «Zen.Yandex», «VK», «OK» и новости сами придут к вам..


Никто не решился оставить свой комментарий.
Будь-те первым, поделитесь мнением с остальными.
avatar
Свежие статьи:
21.11.2024 в 23:27 Новые механизмы нейронной связи: потенциалы дендритов
Современные исследования мозга постоянно открывают новые горизонты в понимании его работы. Последние достижения ученых из Германии и Греции выявили уникальные механизмы нейронной связи, которые могут изменить наше представление о когнитивных функциях. Они обна...

Читать далее

21.11.2024 в 23:21 Сверхмассивные чёрные дыры: тайны ранней Вселенной
Астрономы веками пытаются разгадать тайны формирования чёрных дыр, особенно тех, что обладают колоссальной массой. Новые исследования ставят под сомнение традиционные представления о процессе их образования, выдвигая гипотезу о том, что эти космические монстры...

Читать далее

21.11.2024 в 23:14 Локальное время: Новая концепция восприятия времени
Время — это понятие, которое человечество пыталось понять на протяжении тысячелетий. Но что, если мы можем взглянуть на него с совершенно новой перспективы? Учёные из Донского государственного технического университета и Лиссабонского университета NOVA сделали...

Читать далее


Советы:
Храним бананы долгое время свежими
Покупать впрок бананы – идея не очень хорошая, хотя недозрелые плоды могут пролежать в домашних условиях достаточно долго. Есть несколько действенных и простых полезных советов, которые помогут сохранить бананы как можно дольше....

Читать далее

Эксперт рассказала, как правильно хранить чай дома, и куда его класть не стоит
Чай занимает лидирующие позиции в списке любимых напитков. Его употребляют и взрослые, и дети для утоления жажды в теплое время года или для согрева в знойную зиму. Как сделать так, чтобы он подольше оставался ароматным в домашних условиях?...

Читать далее

Новая форма и любимый вкус: рецепт рулета «Медовик»
Торт "Медовик" – такая же классика, как бисквитная выпечка или "Наполеон". Кроме классического торта, этот десерт готовят в форме пирожных и даже рулетов. Сегодня мы предлагаем именно последний вариант "Медовика" – в виде рулета. Как приготовить вкусный десерт...

Читать далее