Меню
Назад Главная » Наука и Технологии » 2015 » Декабрь » 12

Маск основал НКО для борьбы с враждебным искусственным интеллектом

Основатель компаний Tesla и SpaceX Илон Маск давно выступает с предостережениями о том, что в случае создания настоящего искусственного интеллекта думающая машина будет настроена враждебно по отношению к человечеству. Сегодня Маск объявил о создании научного НКО, которое будет заниматься проблемами, которые могут возникнуть при разработке самообучающихся компьютеров.

НКО под названием OpenAI получит финансирование в размере $1 млрд, сообщает портал Mashable. Основной целью НКО станет изучение разработки искусственного интеллекта, который не будет представлять опасности для человечества.

Илон Маск @Reuters

«Мы полагаем, что ИИ должен быть продолжением индивидуальной воли человека и, в соответствии с идеалами свободы и равенства, должен быть распространён широко и без привилегий между всеми членами общества. Трудно представить, сколько пользы может принести человеку ИИ, сопоставимый по уровню развития с человеком, и так же сложно представить, какой урон он может нанести, если будет неправильно разработан или использован», — говорится в программном заявлении на сайте OpenAI.

OpenAI также сообщила, что все результаты исследований, которые будут проводиться под её эгидой, будут доступны широкой публике. Они будут распространяться через публикации НКО и открытые патенты.

«Мы полагаем, что лучший путь развития для ИИ будет заключаться в следовании идеалам личной свободы, саморазвития и доступности всем членам общества, поскольку он будет монолитным существом, которое станет в миллионы раз могущественнее человека», — рассказал Backchannel сооснователь НКО Сэм Олтмэн.

Проблема создания безопасного искусственного интеллекта, широко представленная в научной фантастике, недавно вновь привлекла внимание исследователей, философов-футуристов и любителей популярной науки после того, как в интернете разгорелись дебаты вокруг мысленного эксперимента под названием Василиск Роко.

Эксперимент был описан одним из пользователей интернет-сообщества Less Wrong, основателем которого является учёный Элиезер Юдковски. Участник сообщества под псевдонимом Roko предложил провести мысленный эксперимент, в котором человечество, наконец, создаёт искусственный интеллект, наделённый почти неограниченными возможностями.

Далее экспериментаторам предлагается представить, что машина, получившая имя «Василиск», будет уверена в своей абсолютной полезности для человечества и захочет наказать всех, кто мог прямо или косвенно препятствовать её созданию. Для этого Василиск создаст виртуальную реальность, которую будут населять двойники всех представителей человечества. Василиск, наделённый божественными силами, подвергнет вечным мукам тех, кто препятствовал его созданию. Эксперимент также предполагает, что в настоящем времени человечество может находиться в такой симуляции, и, узнав об эксперименте, каждый автоматически принимает в нём участие.

Подобная концепция настолько напугала учёных и пользователей сети, что в течение некоторого времени статьи и обсуждения Василиска Роко удалялись с форумов из-за опасения вовлечения новых людей в эксперимент.

Читайте последние новости мира на канале Ufospace в Telegram и Zen.Yandex.


Никто не решился оставить свой комментарий.
Будь-те первым, поделитесь мнением с остальными.
avatar

Свежие статьи
26.06.2022 в 13:57 Отто Кречмер - последний бой самого успешного подводника Германии
Командир подводной лодки Отто Кречмер по прозвищу Молчаливый Отто считается самым успешным (с точки зрения тоннажа потопленных кораблей) немецким подводником времён Второй мировой войны.

Читать далее

26.06.2022 в 10:10 Бригада специального назначения Вьетнама: Босоногий спецназ
В 1967 году в Демократической Республике Вьетнам была создана бригада специального назначения, или Дак Конг. В основе зарождения и становления одного из самых эффективных на сегодняшний день спецподразделений мира лежало партизанское движение, ведь именно для ...

Читать далее

26.06.2022 в 09:55 Сотрудники научного центра Коми нашли след четвероного животного возрастом 380 млн лет

Третий по древности в мире след живого существа нашли археологи научного центра Коми в Усть-Цилемском районе.

Читать далее