Недавно мой коллега Илья Хель написал замечательную статью о том, почему люди не должны водить автомобили и это занятие нужно поручить самим автомобилям. Приводились данные статистических исследований, которые показывали, что люди очень часто отвлекаются от дороги и занимаются своими делами: набирают СМС в своих телефонах, просматривают свою электронную почту, общаются в социальных сетях, делают фотографии себя любимых и даже записывают видео. Проблема действительно существует, и ее нужно как-то решать.
Никто не будет спорить, что все эти факторы повышают процент ДТП, и как результат — смертность на дороге. Есть ли выход из ситуации? Действительно ли лучшим решением будет отобрать у человека руль и переложить задачу по управлению автомобилем компьютеру? Снизит ли это количество ДТП? И вообще, как все это сделать, при этом не уничтожив заодно мир?
В этой статье я постараюсь изложить свои мысли по этому поводу и привести аргументы, которые, надеюсь, не позволят или по крайней мере серьезно усложнят выбор в пользу самоуправляемых автомобилей в ближайшем будущем.
Причина
В предыдущей статье указывалось, что переход к самоуправляемым автомобилям происходит постепенно. Осуществляется это за счет оборудования транспортных средств различными системами, облегчающими ежедневные передвижения человека. Различные круиз-контроли, которые нажимают за тебя педали газа и тормоза, облегчая нагрузку на ноги во время длительных загородных путешествий; различные датчики, которые следят за безопасной дистанцией между вашим автомобилем и другими участниками движения; в конце концов, парктроники, которые помогают водителям поставить их автомобиль на стоянку. На примере последней «опции» я как раз постараюсь объяснить, почему лично я бы не хотел доверять самоуправляемым автомобилям контроль за обстановкой на дороге. По крайней мере в ближайшем будущем.
Поговорим о двух случаях, которые произошли совсем недавно. В первом речь пойдет об автомобиле шведского концерна Volvo, который уже довольно продолжительное время занимается разработкой концепт-кара, который смог бы облегчить процесс парковки своему владельцу. Скажем так: работать пока еще есть над чем.
На проводимой в Доминиканской республике демонстрации самостоятельной парковки «взбесившийся» кроссовер XC60 чуть не отправил оператора в больницу. Последний, к счастью, отделался легким испугом.
Во втором случае фигурирует Ford-F150, владелец которого поручил автомобилю самостоятельно выполнить параллельную парковку. К сожалению, инициатива закончилась аварией. Новенький пикап врезался в припаркованный автомобиль.
Казалось бы, совершенно не похожие друг на друга аварии. В случае с автомобилем Volvo, который чуть не припарковался на оператора, причиной явилось то, что человек забыл поставить автомобиль в режим «городская безопасность», в котором очень строго соблюдается скоростной режим, вследствие чего машина резко начала движение вперед.
В случае с «Фордом», человек просто не успел нажать на педаль тормоза. Дело в том, что при системе автоматической парковки у водителя остается право управления педалями газа и тормоза. Автоматика в этот момент отвечает только за руль. Чрезмерное нажатие на педаль акселератора и несвоевременно реагирование на ситуацию сзади может привести к такому результату, который мы наблюдали выше.
Какие выводы из этого можно сделать? Виновата ли электроника в приведенных в качестве примера происшествиях? Нет. Несет ли ответственность электроника в случившихся авариях? Нет. Единственный, кто виноват и несет ответственность в этих случаях, — это человек. Человеческий фактор является единственной причиной, по которой мы не можем построить по-настоящему безопасные самоуправляемые автомобили.
Следствие
А теперь представьте, что вместо припаркованной машины сзади мог находиться человек. Еще лучше — представьте себе то, что ваш новенький самоуправляемый автомобиль, оборудованный «по последнему слову техники» всякими датчиками парковки, соблюдения дистанции, системой выбора скоростного режима и очень сложным программным обеспечением, которое отвечает за работу всего этого оборудования, — все это было собрано людьми, которые не застрахованы от ошибок, которые «просто забыли» или просто «не успели» сделать все правильно к нужному сроку.
Представьте, что речь теперь идет не просто о парковке. Представьте, что границы человеческого фактора теперь распространяются не только на руль, а на весь автомобиль в целом. Представьте, что одна маленькая программная ошибка, которая не была замечена при производстве, может привести к целой цепи событий, результатом которых станет серьезное ДТП. Представьте, что вашим автомобилем управляете не вы, а программа, которой задали базовый набор правил и поведений на дороге, в которую внесли необходимые показатели безопасной дистанции и различные варианты решений при различных дорожных ситуациях. Представили? Тогда отмечу, что с фантазией у вас все очень хорошо. Идеального программного обеспечения не существует и не будет существовать, пока оно будет создаваться человеком. Даже агентство DARPA, которое хочет эту проблему исправить, скорее всего, ждет неудача.
Есть ли решение?
Как реализовать концепцию мира, где по дорогам будут передвигаться самоуправляемые автомобили? Нам потребуется автомобиль, оборудованный различными датчиками, о которых я писал выше; компьютерная система, которая будет управлять всеми этими датчиками и будет связана с некоей центральной базой, которая будет с помощью дорожных камер и спутниковой навигации отслеживать обстановку на дорогах, принимать решения и посылать сигналы для их выполнения на автомобили. Если такая система будет создана человеком, то опять же не исключен человеческий фактор ошибок.
Каким образом можно полностью исключить фактор человеческой ошибки внутри такой сложной и многоуровневой цепи создания системы самоуправляемого транспорта? И возможно ли это в принципе? В настоящий момент этого сделать невозможно. Почему? Потому что чтобы создать идеальный самоуправляемый автомобиль, потребуется такой же полностью автономный робот, созданный искусственным интеллектом, который в свою очередь как раз и будет лишен фактора возможности человеческой ошибки. Эдакое идеальное создание, которое будет полагаться только на абсолютную первопричину и все знания мира, обладать безупречной логикой и точностью. Каждый автомобиль в этой цепи будет частью этого интеллекта, и решения по избежанию ДТП будет определять уже машина, а не человек.
Но давайте представим, что ДТП неизбежно и перед ИИ станет вопрос выбора. Помните фильм «Я, робот» и историю детектива Спунера о том, как он потерял свою руку и приобрел взамен нее кибернетическую? Многие наверняка скажут — «сказка для детей». Возможно. Но в ней ясно прослеживается рациональное зерно.
Представьте, что за вашу судьбу и судьбы других людей будут отвечать машины, которые будут делать выбор исходя не из моральных принципов, а исходя из процентного соотношения возможностей для выживания. Если рассматривать этот вопрос с такой позиции, то я полностью понимаю Элона Маска, который не раз высказывался против создания ИИ.
«Игра с искусственным интеллектом — это все равно что игра с демонами», — говорил тогда Маск.
Основная проблема безопасности передвижения по дорогам заключается в нас самих. И если мы хотим ее решить, то нужно начинать делать это уже сейчас. Почему? Потому что в противном случае в скором времени по дорогам будут ездить не люди, а роботы. Роботы с безупречной логикой, никаким образом не относящейся к человеческим качествам, принципам и морали. А что люди? А люди в данном случае будут не нужны. Совсем.
