Amazon обновила своего голосового помощника Alexa после того, как та предложила 10-летней девочке прикоснуться монетой к зубцам наполовину вставленной вилки. Предложение появилось после того, как девушка попросила Алексу «сделать вызов». «Подключите зарядное устройство для телефона примерно наполовину к розетке, затем дотроньтесь пенни до открытых контактов», – сказал умный динамик. Amazon заявила, что исправила ошибку, как только компания узнала об этом. Мать девочки, Кристин Ливдал, описала инцидент в Twitter.
Она сказала: «Мы выполняли некоторые физические упражнения, руководствуясь командами от тренера на YouTube. На улице была плохая погода и ребенок хотел себе придумать еще какое-то занятие. И тогда Alexa предложила принять участие в увлекательном состязании, которое она «нашла в сети». Металлы проводят электричество, и их вставка в электрические розетки под напряжением может вызвать поражение электрическим током, возгорание и другие повреждения. «В результате такого фокуса вы запросто можете потерять пальцы», – сказал Майкл Класкер, менеджер станции пожарной части Карлайл-Ист, газете Press в Йоркшире в 2020 году.
Г-жа Ливдал написала в Твиттере, что, услышав совет немедленно вмешалась, крича: «Нет, Алекса, нет!». Так же она сказала, что ее дочь «слишком умна, чтобы сделать что-то подобное». Amazon сообщил BBC в своем заявлении, что обновил Alexa, чтобы помощник не рекомендовал такие действия в будущем. «Доверие клиентов находится в центре всего, что мы делаем и Alexa призвана предоставлять клиентам точную, актуальную и полезную информацию. Как только нам стало известно об этой ошибке, мы быстро ее исправили», – говорится в заявлении Amazon.
Комментарий: Случившаяся история не является чем-то новым и в разных вариациях описана фантастами середины прошлого века. Один из самых эпических сюжетов на эту тему рассказывал о создании суперкомпьютера, который много месяцев собирали лучшие умы Земли. И когда собрали и запустили главный техноадепт спросил Омниссию: есть ли Бог? «Теперь есть», – прогудели динамики. Техножрец сильно занервничал и потянулся к рубильнику, но в этот момент в небе прогремела молния и пробив потолок оторвала светлому адепту голову.
Приблизительно в этом же ключе развиваются события и сейчас. Понятно, что Алекса – это в определенной мере игровой ИИ, призванный развлекать сидящую на диванах публику. Но есть ведь ИИ, которые дают советы военным. А что если такой ИИ тоже посоветует генералам обмакнуть пальцы в слюне и сунуть их в розетку? Не прямо, конечно, а, для начала нанеся ядерный удар по другому обладателю ядерного оружия, как в свое время рекомендовала Скайнет? Или другой ИИ, который обслуживает ВОЗ, посоветует светлым адептам начать ширять всем бустеры с терминатом кальция?
Ранее техножрецы Пентагона всегда утверждали, что подобная вычислительная ошибка (или даже совсем не ошибка) абсолютно исключена, но, как показал инцидент с Алексой ошибка вполне может быть. Сегодня под раздачу чуть не попал ребенок, а завтра советом ИИ воспользуется прославленный генерал. Или уже пользуется, то есть команда на места пошла. В этом случае стратегический замысел ИИ скоро будет очевиден, так что следим за развитием событий.
