05.06.2017. - Искусственный разум должен дополнять человека

Искусственный разум должен дополнять человека

Грег Коррадо, ведущий программист проекта Google Brain (который занимается созданием систем машинного обучения и искусственного интеллекта и их интеграцией в сервисы Google) рассказал РИА Новости, что представляет собой искусственный разум, почему восстание самосовершенствующихся машин нам не грозит, и поделился мыслями о том, как человечество будет приспосабливаться к жизни в эпоху "разумных машин".

За последние годы Коррадо и его коллеги разработали новые системы машинного перевода, научили систему поиска картинок Google Images распознавать кошек, собак и другие объекты, а также создали нейросеть, улучшающую разрешение фотографий. Сейчас они работают над созданием голосового помощника для телефонов на ОС Android.

— Грег, ваша научная карьера, судя по вашим публикациям, началась в нейрофизиологии, а не в разработке искусственного интеллекта. Как так получилось, что системы ИИ стали важными и для вас лично, и для всего Google в целом?

— Изначально меня интересовали совершенно другие вещи – сначала я занимался изучением физики, а потом переключился в область наук о мозге. Тогда мне казалось, что мозг является самой интересной физической системой, и я хотел понять, как развитие нашего мозга привело к появлению разумных и осознающих себя существ.

Проработав некоторое время подобным образом, я понял, что мне было не менее интересно изучать все формы интеллекта, не только в его биологических, но и в искусственных проявлениях. Кроме того, тогда мне показалось, что в области искусственного интеллекта мы сможем продвигаться гораздо быстрее, чем в изучении мозга человека.

С Google ситуация другая – компания фактически с момента своего основания занимается искусственным интеллектом. Сама реализация поисковой системы в том виде, в котором ее задумали основатели компании, Сергей Брин и Ларри Пейдж, требует наличия хотя бы какой-то формы искусственного интеллекта.

Для нас главной задачей является не создание ИИ как какого-то продукта, который мы могли бы упаковать в коробочку и продать, а использование подобных систем для организации и обработки информации. Объемы информации постоянно растут, и чем больше мы получаем данных, тем хуже мы видим ее и теряем представление о том, что важно, а что нет.

— Сама математическая идея, описывающая глубинные нейронные сети и нелинейные методы обучения, появилась более десяти лет назад, однако они стали популярными только в последние два-три года. С чем это связано?

— Могу сказать больше — сами принципы организации этих сетей появились еще раньше, в 60-х годах прошлого века, а окончательно они были оформлены в математическом виде в 1980-1990-х. С тех пор они фактически не поменялись. Единственной причиной того, почему их возрождение произошло именно сейчас, является то, что компьютеры стали заметно быстрее в последние годы и у нас появилась возможность дешево наращивать их мощность.

В девяностые годы и в начале двухтысячных мы этого не понимали, и поэтому нейросети в то время рассматривались как интересная, но бесполезная игрушка. Но на самом деле им просто не хватало вычислительных ресурсов для того, чтобы делать что-то полезное. Когда объемы данных и вычислительные ресурсы были невелики, простые математические подходы использовали их эффективнее, чем нейросети.

Мы впервые осознали, что глубинные сети и машинное обучение могут быть полезными? примерно в 2010 или в 2011 году, и нам понадобилось около пяти лет, чтобы проверить эту идею и доказать, что это действительно так. Сейчас каждый человек в отрасли понимает, что это так, и стремится в эту сторону.

— С каждым годом наша цивилизация производит все больше и больше данных, обработка которых в скором времени будет невозможна без использования искусственного интеллекта. Сможет ли человечество развиваться дальше, как считают противники ИИ, не применяя подобные системы?

— Я не думаю, что искусственный интеллект или машинное обучение могут быть чем-то плохим или хорошим – это просто набор новых технологий, способ использования которых будет зависеть исключительно от нас самих. Как общество мы должны решить, для чего и как они будут применяться – к примеру, мы можем полностью отказаться от них по каким-то этическим или политическим причинам.

Я же лично считаю, что подобное решение будет крайне неэффективным и подобным тому, если бы мы запретили автоматические швейные машинки и заставили все фабрики шить одежду вручную. Вместо этого нам нужно понять, где их использование принесет реальную пользу и будет соответствовать нашим ценностям.

И, как мне кажется, существует бесчисленное множество сфер, где применение и ИИ, и машинного обучения принесет гигантскую пользу обществу, многие из которых мы пока еще и представить себе не можем.

— Google сегодня использует нейросети в работе Google Translate, Google Image Search и многих других продуктов. Где в ближайшее время будет совершен главный прорыв в их применении?

— Когда люди говорят о развитии искусственного интеллекта, они чаще всего представляют себе что-то очень впечатляющее, чем он на самом деле не является. Нужно понимать, что мы просто пытаемся сделать машины менее глупыми, чем они являются сегодня, и заставляем их взаимодействовать с человеком наиболее естественным образом.

Кроме того, искусственный интеллект позволяет нам корректировать ошибки машин и заставлять их учиться на этих ошибках. Возникает своеобразный диалог между человеком и машиной.

Я надеюсь, что в ближайшие десять лет у нас появится система, возможно работающая на телефонах и других мобильных устройствах, которая будет динамично взаимодействовать с хозяином и учитывать особенности его личности и какие-то конкретные пожелания.

К примеру, вы просите подобного помощника помочь вам достичь какой-то точки на карте. Когда он предлагает вам маршрут, вы можете попросить его проложить его ближе к парку или выполнить другие пожелания, и система вас поймет и исполнит ваши пожелания. Нам хочется, чтобы общение с подобными системами шло максимально естественным путем для человека.

— В последние годы ученые все чаще говорят о создании самосовершенствующихся систем искусственного интеллекта, которые многие серьезные ученые, к примеру Стивен Хокинг, считают очень опасными для человека. Так ли это на самом деле?

— На самом деле самосовершенствующийся искусственный интеллект пока еще не создан. С технической точки зрения, возможно, когда-то подобные системы возникнут, но пока их нет, и они вряд ли появятся в обозримом будущем.

К примеру, сегодня существуют роботы, которые работают на сборочных линиях и собирают машины и прочие сложные технические устройства. Эти роботы были собраны на такой же линии при участии таких же роботов, но это не означает, что роботы улучшили себя. То же самое справедливо для технологий машинного обучения – мы используем их для анализа данных, в том числе и других систем искусственного интеллекта, но они еще не могут улучшать себя без креатива со стороны человека.

Система AlphaGo, к примеру, способна к очень ограниченной форме самообучения, но она не может кардинально поменять свою архитектуру и сделать себя кардинально другой, к примеру приспособленной для решения других задач. То, что сегодня существует, является лишь небольшой частью того, что нужно сделать для создания самообучающихся систем, и весь остальной путь еще не пройден.

Поэтому лично мне кажется, что создание искусственного интеллекта сегодня все больше напоминает искусство, нежели инженерию или науку, и лидеры в нашей отрасли часто удивляют и себя, и коллег своими неожиданными открытиями и находками. В целом, можно сказать, что сегодня создание ИИ является исключительной прерогативой человека.

— Можно ли использовать подобные системы для решения самых необычных задач — к примеру, в качестве "мозга" для марсоходов или зондов, которые бы самостоятельно изучали далекие планеты и миры?

— В принципе, такое вполне возможно, и мне кажется, что в будущем искусственный интеллект будет использован для проведения исследований в космосе или на дне океана, где прямое управление техникой невозможно по тем или иным причинам. Системы ИИ помогут подобным роверам или роботам решать какие-то рутинные задачи и избегать опасностей, но реальные научные исследования все же будут вести люди.

Только человек может ставить конкретные научные задачи и определять, как их решать. Мы можем сказать роботу – "приблизься к этому кратеру и попытайся найти в нем белые породы", но сам робот в принципе не может понять, почему эти породы нам интересны. Человек очень хорошо ставит задачи и ищет пути для их решения, и машины пока не имеют такой возможности. Роботы могут быть в данном случае только помощниками, но не исследователями.

— Этот вопрос непосредственно связан с тем, что многие люди не понимают, что такое искусственный интеллект, и считают, что ученые создают полный аналог человека с его разумом, чувствами и прочими чертами. Почему так происходит?

— Мне кажется, что это является следствием того, что люди не понимают, зачем вообще существует искусственный разум. Они считают, что мы создаем машины, подобные людям. Я полностью это отвергаю и говорю, что мы создаем его не для того, чтобы заменить человека, а чтобы дополнить его возможности.

К примеру, я использую компьютер каждый день, и есть вещи, которые и я, и он могут делать сами по себе — складывать или умножать числа. Компьютер делает это быстрее, и я ценю его в том числе и по этой причине. Соответственно, я могу провести "разделение труда", отдав вычисления компьютеру, и сделать больше, чем мне удалось бы без его помощи. И в этом, как мне кажется, и заключается суть искусственного интеллекта.

Идея создания полного аналога человека, как мне кажется, уходит своими корнями или в научную фантастику, или в философию. Философы давно задумываются о том, можем ли мы создать машины, похожие на человека, но этот вопрос никак не связан с тем, будут ли подобные "искусственные люди" полезными для нас и возможно ли это вообще.

Поэтому с точки зрения практики лучше создавать интеллект, который будет дополнять наш собственный разум и расширять его возможности, а не копировать его.

— Уже сегодня существуют системы, подобные машинам с автопилотом, в которых жизнь человека зависит от действий искусственного интеллекта. Нужно ли создавать принципиально новые юридические нормы для определения ответственности и того, кто будет отвечать за действия ИИ?

— Это очень важный вопрос. Сразу подчеркну, что я не юрист, но мне кажется, что в прошлом уже были примеры подобных проблем. К примеру, уже много столетий существуют законы, которые определяют то, кто несет ответственность за то, что чья-то лошадь лягнула постороннего человека, собака напала на незнакомца, сломался станок и нанес травму рабочему или произошло какое-то другое происшествие.

Нам, как мне кажется, нужно использовать этот опыт при определении ответственности за поведение систем искусственного разума. Соответственно, остается лишь обсудить, как мы можем адаптировать эти принципы для определения того, как мы будем взаимодействовать с автономными машинами и другими устройствами такого типа.

Эта дискуссия, я более чем уверен, будет очень жаркой и длительной, но мне кажется, что она не потребует введения каких-то абсолютно новых юридических норм и принципов. Конечно, некоторые люди предлагают считать системы ИИ "личностями" и так далее, но это лично для меня является чем-то очень странным и непонятным.

— Футурологи и некоторые ваши коллеги прогнозируют, что дальнейшее развитие ИИ оставит многих людей, занятых квалифицированным, но рутинным трудом – бухгалтеров, водителей, чиновников, – без работы. Существует ли эта проблема и как ее можно решить?

— Конечно, эта проблема существует. Мои родители, бабушки и дедушки были бухгалтерами, и моя бабушка начинала работать с ручки и бумаги и закончила калькуляторами, а мама – перешла с калькуляторов на электронные таблицы на компьютере. Все эти изменения радикально поменяли то, как работают бухгалтеры, но сама суть профессии от этого не поменялась – бухгалтеры не исчезли, но при этом стали работать лучше, быстрее и качественнее.

Как мне кажется, нечто подобное произойдет и с искусственным интеллектом. Содержание многих профессий поменяется, но их суть останется прежней, какие-то из них могут даже исчезнуть, но подобная судьба постигнет лишь небольшую их часть.

Кроме того, может произойти нечто подобное, что случилось со сферой веб-дизайна в конце 1990-х годов – до появления и распространения интернета никто и не мог помыслить, что кто-то может заниматься такими вещами. С другой стороны, глупо и неправильно подходить к этому вопросу легкомысленно и думать, что ничего не изменится. Нужно понимать, что эти технологии поменяют мир, что к ним нужно будет адаптироваться и помогать другим приспосабливаться к ним.

Источник