Мировая кампания "Остановить роботов-убийц" в последнее время набирает обороты. Ее сторонники убеждены, что развитие искусственного интеллекта грозит человечеству полным уничтожением. Во главе кампании стоит Джоди Уильямс, основательница Международного движения за запрет противопехотных мин, в 1997 году удостоенная Нобелевской премии мира.
Эксперты утверждают, что всего через 20-30 лет армии будут состоять не из людей, а из высокоорганизованных роботов. Новые технологии сделают военные конфликты практически бескровными, во всяком случае, помогут свести число человеческих жертв к минимуму. Однако Джоди Уильямс считает, что производство таких "машин смерти" является нарушением основных принципов гуманизма и прав человека.
"Не хочу, чтобы меня уничтожила запрограммированная машина", — говорит она. Еще недавно ученые утверждали, что даже самый совершенный компьютер никогда не будет обладать способностью самостоятельно мыслить и рассуждать, ведь по большому счету это всего лишь набор микросхем, которые позволяют устройству производить сложные, но стандартные операции, заложенные в него людьми. Никто, разумеется, не станет закладывать в компьютер программу уничтожения человечества. Хотя чисто теоретически…
Теоретически возможно все! В конце июня прошлого года под эгидой английского Университета города Рединг состоялся конкурс, в котором приняли участие пять новейших компьютерных программ, претендующих на "интеллектуальный" статус. Победителем стала российская программа "Евгений", которая сумела в 29,2 процентах случаев дать "человеческие" ответы на вопросы. Таким образом, до гордого звания носителя "искусственного интеллекта" ей не хватило всего 0,8 процента. Скорее всего, в недалеком будущем этот рубеж будет преодолен, и у людей появятся электронные "конкуренты".
Один из ведущих специалистов в сфере искусственного интеллекта, директор Центра когнитивных исследований Университета Тафта Дэниел Деннет утверждает, что "нет никаких препятствий для того, чтобы создать аналогичного человеку робота". Так что пресловутый, воспетый множеством фантастов "бунт машин" постепенно становится реальностью…
Правда, пока ни в одной стране мира еще не существует технологий, которые могли бы функционировать без контроля со стороны человека. Тем не менее, подобные разработки ведутся. Так, специалисты из Технологического института Джорджии разработали особую программу, которая научит роботов… лгать. Правда, только друг другу.
"Подобная тактика может быть использована для роботов, охраняющих военные склады или боеприпасы на поле боя, — комментируют авторы проекта. — Это поможет им обмануть врага и выиграть время до подхода подкрепления". Известная компания Google применяет в своем программном обеспечении алгоритмы так называемого глубокого обучения (deep learning), которые имитируют деятельность нейронов в коре головного мозга. Это позволяет программам распознавать те или иные закономерности в звуках, изображениях и других виртуальных данных.
Команде исследователей во главе с профессором химии из Университета Калифорнии Джеймсом Гимзевски при поддержке DARPA удалось разработать технологию, которая позволяет создавать полностью автономных роботов, способных "думать" как человек. Они будут работать не на привычных нам микросхемах, а на нанопроводниках, образующих миллиарды соединений, аналогично нейронам человеческого мозга. Это поможет им запоминать и анализировать полученную информацию так же, как это делают люди. Таким роботам не понадобится человеческий контроль.
К примеру, самолеты, оснащенные этими системами, будут изучать местность и прокладывать маршруты без участия живого пилота. Глава компании Palm Computing Джефф Хокинс, автор книги "Об интеллекте" (2004), в свою очередь, разрабатывает систему машинного обучения, предсказывающую закономерности потребления энергии и вероятность поломки различных устройств. Впрочем, он считает, что машинный интеллект никогда не сможет развиться до уровня человеческого, так как даже глубокое обучение не позволит ему, скажем, ощущать эмоции…
Предположим, система сможет легко распознать такой объект, как кошка, но не сможет понять, когда это животное делает что-то забавное, а когда просто сидит на месте… Но, возможно, главная опасность воздействия искусственного интеллекта на человечество как раз и заключается в отсутствии человечности…
Сегодня ученые из Центра исследования потенциальных угроз в Кембридже высказывают опасения в том, что в будущем возможно "восстание машин", которое может привести к гибели человечества. А в конце прошлого года экспертами из Harvard Law School и Human Rights Watch был опубликован доклад под названием "Потеря человечности: дело против роботов-убийц".
Маргарита Троицына
При использовании материалов с сайта активная ссылка на него обязательна
