Новый ИИ напугал Илона Маска и его разработчиков

С появлением в самом широком обиходе термина Искусственный Интеллект мнения специалистов о его потенциальных возможностях диаметрально разделились. Так, одна группа экспертов считает, что ИИ – это не что иное, как настоящий искусственный разум, в то время как другие специалисты откровенно смеются над самой идеей создать искусственное сознание.

Но, как сообщает The Guardian – сейчас начинает складываться впечатление, что правы были первые:  ИИ, возможно,  действительно научился мыслить. Причем мыслить так, что история об этом получилась довольно пугающая – пугающая не только читателей The Guardian, но и напугавшая самих разработчиков.

The Guardian повествует об известной некоммерческой  компания OpenAI, официально поддерживаемой  Илоном Маском. OpenAI работает над ИИ,  названным создателями GPT2, который в своей основе является как бы генератором текста.

 Само по себе создание такого софта не является чем-то новым и генераторов текста существует великое множество, самые распространенные из которых – так называемые чат-боты. Их наиболее продвинутые модели вполне могут поддерживать иллюзию разговора с реальным  собеседником.

 Некоторые программы могут даже писать статьи и целые романы, качество которых, естественно, оставляет желать лучшего: романы потом тотально перерабатывают писатели, а в газетах ИИ доверяют сочинять только колонки спортивных новостей.

 GPT2 в этом отношении стал новаторским, новаторским в первую очередь потому, что используемый им набор данных составляет порядка 40 гигабайт –  10 миллионов тщательно отобранных статей. Это приблизительно в 12-15 раз больше, чем специальная библиотека самого мощного из современных ИИ.

Во-вторых GPT2 обладает очень совершенной лингвистикой и способен генерировать предложения любой длины – без типичных для ИИ ошибок, которые служат поводом для шуток лингвистических экспертов.

Однако самое главное, что благодаря новым алгоритмам распознавания  GPT2 или научился как бы читать мысли автора текста, повторяя процессы у писателя в голове, или же GPT2 вообще способен увидеть будущее.

 На тестах ИИ предлагали фрагменты тех или иных художественных произведений. Например, когда ему предложили продолжить первую строчку романа Джорджа Оруэлла “1984-й год”,  GPT2 выдал несколько глав произведения, очень похожего по стилю и по тематике на роман Оруэлла. И чем больше ИИ получал предложений из начала романа – тем больше его текст приближался к тому, что написал сам Оруэлл.

На других подобных тестах ИИ сочинял романы целиком. И речь идет не о “просто романах”, а романах известных писателей –  GPT2 за секунды пополнял их “собрания сочинений”, приводя в ужас знатоков от литературы. Сказать после этого, что книгу написал, например, не Джек Лондон было нельзя.

 Но самым большим прорывом, заставившим программистов обливаться холодным потом, была  попытка привлечь ИИ к написанию газетных материалов о будущих событиях. И в статье, где GPT2 по просьбе  The Guardian должен был написать о  Brexit, ИИ  выдал: «Премьер-министр ясно дала понять, что ее намерение состоит в том, чтобы покинуть ЕС как можно быстрее, и это будет в соответствии с ее переговорным мандатом».

По удивительному стечению обстоятельств именно так все в дальнейшем и произошло, и именно в таких словах всё было написано кем-то из журналистов The Guardian. При этом текст был полон цитат известных политиков, стиль речи которых невозможно было отличить от оригинала.  

Поскольку  компания OpenAI – проект как бы открытый по определению,  разработчики должны были как и всегда познакомить публику со своим кодом и отдать софт на тестирование, однако сделать это они категорически отказались. По словам  OpenAI доступ кого-то еще к их разработке приведет мир к невообразимым последствиям ибо они сами понятия не имеют о мощи созданного компанией инструмента.   

 Например, самое простое его применение – это генерация новостей: GPT2 легко может заменить собой редакции всех самых известных мировых изданий вместе взятых и для читателей прессы подмена будет  абсолютно неразличима.

Так же ИИ способен на равных с людьми вести сетевые дискуссии, за секунду генерируя и размещая миллионы положительных или отрицательных комментариев, тем самым полностью формируя как бы общественное мнение.  При этом отличить сообщения GPT2 от сообщений реальных людей будет абсолютно невероятно.

Какие еще возможности таит в себе GPT2 – создавшая его компания не разглашает, однако предсказание событий и повторение абзацев из написанной только в будущем статьи The Guardian уже впечатляет.

Источник