Паранормальные новости - ZenYandex
Самое популярное за месяц: TOP 5

Главная » Категория: Технологии » Просмотров: (1116) Комментариев: (0) (11.05.2015 - 22:34)

Сможет ли искусственный сверхинтеллект убедить вас, что вы виртуальны?

Представьте себе невероятно умный искусственный сверхинтеллект, запертый в виртуальном мире — скажем, просто в табакерке. Вы не знаете, будет он злобным, дружелюбным или нейтральным. Все, что вы знаете, так это то, что он хочет выйти из табакерки и что вы можете взаимодействовать с ним через текстовый интерфейс. Если ИИ будет действительно сверхразумным, сможете ли вы проговорить с ним пять часов и не поддаться на его уговоры и манипуляции — не открыть табакерку?

Этот мысленный эксперимент предложил Элиезер Юдковский, научный сотрудник Научно-исследовательского института машиностроения (MIRI). В MIRI состоит много ученых, которые исследуют риски развития искусственного сверхинтеллекта; хотя его даже не появилось пока, он уже привлекает внимание и разжигает дебаты.

Юдковский утверждает, что искусственный сверхинтеллект может говорить все, что только может, чтобы убедить вас: тщательное рассуждение, угрозы, обман, построение раппорта, подсознательное внушение и так далее. Со скоростью света ИИ выстраивает сюжет, зондирует слабости и определяет, как наиболее легко убедить вас. Как выразился теоретик экзистенциальных угроз Ник Бостром, «мы должны полагать, что сверхинтеллект сможет достичь всего, что поставит целью».

Эксперимент с ИИ из табакерки вызывает сомнения в нашей способности контролировать то, что мы могли бы создать. Он также заставляет нас осмыслить довольно причудливые возможности того, чего мы не знаем о нашей собственной реальности.

Имитация может быть идеальной питательной средой для искусственного интеллекта. Некоторые из наиболее правдоподобных способов создания мощного ИИ включают смоделированные миры — вводя ограничения в искусственно смоделированном мире и выбирая нужные черты, ученые могут попытаться грубо дублировать собственную модель развития и сознательного чувствования человека. Формирование ИИ в моделируемой среде также может предотвратить его «утечку» в мир до тех пор, пока его намерения и степень угрозы не станут более чем очевидны.

Последние достижения намекают на то, что может быть невозможно трудно разработать познание с нуля. Никто не сможет построить разум человеческого масштаба, выписывая по одной строчке кода. Есть и другие перспективные подходы, конечно, и по мере роста вычислительной мощи вполне может быть возможной разработка процесса, который в конечном итоге создать ИИ, умного и способного, как человек.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку?

Одна идея «создать» ИИ заключается в сканировании, картографировании и эмуляции виртуальной модели человеческого мозга. Мозг человека содержит миллиарды нейронов и триллионы соединений между этими нейронами. Если мы виртуально смоделируем чью-то полную структуру нейронов и их связей, будет ли это адекватной репликой человеческого сознания?

Другие планы по виртуальной разработке интеллекта гораздо менее просты. Одним из ключевых концептов является создание обучающейся машины — слабого интеллекта, который сможет учиться, возможно, благодаря искусственной нейронной сети, запрограммированной на бесконечное расширение и улучшение собственных алгоритмов.

Описанные выше сценарии включают тревожную проблему. Эмулированный мозг может работать в 2, 10 или 100 раз быстрее обычного биологического мозга. ИИ может модифицировать собственный код или начать создавать более разумные версии себя. Взрыв скорости и разума самоулучшающихся компьютеров обсудил еще в 1965 году статист И. Дж. Гуд, который и написал, что «первая сверхразумная машина станет последним изобретением, которое нужно будет создать человечеству».

Если мы создадим невероятно разумную машину, нам придется быть осторожными с ее размещением. Инженеры едва ли смогут создать модель мира, который будет полностью защищен от утечек. Ученые должны создать мир-имитацию, который позволит им заглядывать в эту вселенную и собирать информацию. Может показаться безобидным, но трудно предположить, не найдет ли такой сверхразум способ нанести нам вред через простые наблюдения.

Возвращаясь к коробкам Юдковского, есть особенно жуткий метод, который ИИ может использовать, чтобы заставить вас освободить его. Он включает обращение ситуации: ИИ будет убеждать вас, что вы почти наверняка часть симуляции.

Вы общаетесь с искусственным сверхинтеллектом в виртуальной тюрьме. ИИ объясняет вам, что с помощью его (необъяснимо большой) вычислительной мощности он создал триллион моделируемых существ. Эти существа в настоящее время все общаются с ИИ и решают, открыть им табакерку или нет. Все эти существа обладают памятью о своих «жизнях» и не задумываются о том, иллюзорна ли реальность.

ИИ утверждает, что каждое виртуальное существо, которое откроет коробку, обретет бесконечное состояние эйфории, а каждое моделируемое существо, которое не откроет коробку, подвергнется вечным мучениям и ужасам.

Поскольку вы являетесь одним из триллиона умов, которые столкнулись перед таким выбором, нажимает ИИ, вы должны прийти к выводу, что есть астрономически большой шанс того, что вы находитесь во власти ИИ и что нужно играть по правилам.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку? Вы не можете обмануть кого-то, кто всегда на шаг впереди вас, и вам трудно оценить, врет ли ИИ, не зная его мотивов. В лучшем случае вы могли бы противостоять этой тактике, следуя политике строгого игнорирования некоторых видов шантажа. И эта тема до сих пор смущает теоретиков ИИ.

Заявленная цель MIRI: «убедиться, что создание с интеллектом выше человеческого будет нести положительное влияние». Мы должны рискнуть и попробовать, но обязательно должны предупредить все возможные подводные камни. И если вы когда-нибудь действительно встретите божественный компьютер, способный плодить бесчисленные виртуальные вселенные, вполне вероятно, что это «вы» будете сниться искусственному интеллекту… если он вообще услышит ваши просьбы и мольбы.

Теги искусственный интеллект, будущее, эксперименты

Система Orphus: Если вы заметили ошибку в тексте, выделите ее и нажмите Ctrl + Enter Sistema Orphus

Просмотров: 1116 | Комментариев: (0) Автор: Обзор средств массовой информации. Рейтинг: 0.0/0

// Новые темы в блогах »читать все

Таро и толкование снов... Услуги опытного таролога и сновидицы. Помогу разобраться в себе, понять свои сны, пре... (57)
ufospace.net
Почему каждому поступку своя мера воздаяния?...

«Вечно только Знание, оно без начала и конца. Не существует иной реальной су... (247)

ufospace.net
Можно ли за 108 лет пройти столько, сколько д...

«Тот, кто слеп в этой жизни, останется слепым и после смерти». Коран.<... (426)



ufospace.net
Насколько опасен для нашей стр...

Российский вирусолог объяснил, насколько опасен для нашей страны вирус Зика. Стремительное распространение вируса Зика активно обсуждается в последнее время учеными и обывателями, хотя само заболевание появилось ещё в прошлом ве
ufospace.net
Внутри организма человека найд...

Компьютерный анализ ДНК бактерий, живущих на нашей коже и в кишечнике, помог ученым выделить два мощных антибиотика – гумимицин А и гумимицин В, которые помогут бороться с пока неуязвимыми "супербактериями".
ufospace.net
Датских ученых напугала голова...

Работники Копенгагенского университета собрали огромную коллекцию существ-мутантов. Среди экспонатов есть одноглазая свинья и четвероногая утка. Но лошадь-циклоп стала первым образцом подобной аномалии за последние 30 лет. Учены
ufospace.net
Нечувствительность боли. Боль ...

Американец Стивен Пит и его брат родились с редким заболеванием - врожденной нечувствительности к боли. Им, как утверждают ученые, страдают всего несколько сотен человек во всем мире. Оно характеризуется частичным или полным отс
Комментарии : 0
avatar

Эзотерика и антиквариат: Доска объявлений ufospace.net

ufospace.net
ПРИВОРОТ В ИВАНОВА ЧЁРНАЯ МАГИЯ МОЩ... Высшая Чёрная Магия 100% приворот. Любовная магия возврат любимых в семью приворотом.... (183)
ufospace.net
Услуги потомственной Ведьмы. Привор... Услуги потомственной Ведьмы. Владею, как Высшей Церемониальной Черной Магией, так и ... (75)