|
Новый ИИ напугал его разработчиков
|
|
|
|
С появлением в самом широком обиходе термина Искусственный Интеллект мнения специалистов о его потенциальных возможностях диаметрально разделились. Так, одна группа экспертов считает, что ИИ – это не что иное, как настоящий искусственный разум, в то время как другие специалисты откровенно смеются над самой идеей создать искусственное сознание.
|
|
|
|
Но, как сообщает The Guardian – сейчас начинает складываться впечатление, что правы были первые: ИИ, возможно, действительно научился мыслить. Причем мыслить так, что история об этом получилась довольно пугающая – пугающая не только читателей The Guardian, но и напугавшая самих разработчиков. The Guardian повествует об известной некоммерческой компания OpenAI, официально поддерживаемой Илоном Маском. OpenAI работает над ИИ, названным создателями GPT2, который в своей основе является как бы генератором текста.
|
|
|
Само по себе создание такого софта не является чем-то новым и генераторов текста существует великое множество, самые распространенные из которых – так называемые чат-боты. Их наиболее продвинутые модели вполне могут поддерживать иллюзию разговора с реальным собеседником. Некоторые программы могут даже писать статьи и целые романы, качество которых, естественно, оставляет желать лучшего: романы потом тотально перерабатывают писатели, а в газетах ИИ доверяют сочинять только колонки спортивных новостей.
|
|
|
|
GPT2 в этом отношении стал новаторским, новаторским в первую очередь потому, что используемый им набор данных составляет порядка 40 гигабайт – 10 миллионов тщательно отобранных статей. Это приблизительно в 12-15 раз больше, чем специальная библиотека самого мощного из современных ИИ. Во-вторых GPT2 обладает очень совершенной лингвистикой и способен генерировать предложения любой длины – без типичных для ИИ ошибок, которые служат поводом для шуток лингвистических экспертов.
|
|
|
|
Однако самое главное, что благодаря новым алгоритмам распознавания GPT2 или научился как бы читать мысли автора текста, повторяя процессы у писателя в голове, или же GPT2 вообще способен увидеть будущее. На тестах ИИ предлагали фрагменты тех или иных художественных произведений. Например, когда ему предложили продолжить первую строчку романа Джорджа Оруэлла “1984-й год”, GPT2 выдал несколько глав произведения, очень похожего по стилю и по тематике на роман Оруэлла. И чем больше ИИ получал предложений из начала романа – тем больше его текст приближался к тому, что написал сам Оруэлл.
|
|
|
|
На других подобных тестах ИИ сочинял романы целиком. И речь идет не о “просто романах”, а романах известных писателей – GPT2 за секунды пополнял их “собрания сочинений”, приводя в ужас знатоков от литературы. Сказать после этого, что книгу написал, например, не Джек Лондон было нельзя. Но самым большим прорывом, заставившим программистов обливаться холодным потом, была попытка привлечь ИИ к написанию газетных материалов о будущих событиях. И в статье, где GPT2 по просьбе The Guardian должен был написать о Brexit, ИИ выдал: «Премьер-министр ясно дала понять, что ее намерение состоит в том, чтобы покинуть ЕС как можно быстрее, и это будет в соответствии с ее переговорным мандатом».
|
|
|
|
По удивительному стечению обстоятельств именно так все в дальнейшем и произошло, и именно в таких словах всё было написано кем-то из журналистов The Guardian. При этом текст был полон цитат известных политиков, стиль речи которых невозможно было отличить от оригинала. Поскольку компания OpenAI – проект как бы открытый по определению, разработчики должны были как и всегда познакомить публику со своим кодом и отдать софт на тестирование, однако сделать это они категорически отказались. По словам OpenAI доступ кого-то еще к их разработке приведет мир к невообразимым последствиям ибо они сами понятия не имеют о мощи созданного компанией инструмента.
|
|
|
|
Например, самое простое его применение – это генерация новостей: GPT2 легко может заменить собой редакции всех самых известных мировых изданий вместе взятых и для читателей прессы подмена будет абсолютно неразличима. Так же ИИ способен на равных с людьми вести сетевые дискуссии, за секунду генерируя и размещая миллионы положительных или отрицательных комментариев, тем самым полностью формируя как бы общественное мнение. При этом отличить сообщения GPT2 от сообщений реальных людей будет абсолютно невероятно. Какие еще возможности таит в себе GPT2 – создавшая его компания не разглашает, однако предсказание событий и повторение абзацев из написанной только в будущем статьи The Guardian уже впечатляет.
|
|
|
|
Источник
|
