Когда власть захватят киборги с искусственным интеллектом
Один из самых знаменитых философов мира предсказал, что люди почти вымрут в течение ближайшего столетия и будут заменены расой киборгов, управляемых искусственным интеллектом. Юваль Ной Харари предупреждает, что радикальная модернизация человечества будет сопряжена с целым рядом новых опасностей, включая угрозу того, что целые города, полные людей, могут быть «взломаны» недобросовестными силами. «Сейчас мы переживаем новую эпоху войн, и если вы быстро не восстановите порядок, мы обречены», — сказал он в подкасте «Дневник генерального директора». «Я думаю, что мы очень близки к концу нашего вида. «Это не обязательно означает, что мы будем уничтожены в какой-то огромной ядерной войне или что-то в этом роде», — добавил он. «Это вполне может означать, что мы просто изменим себя с помощью биоинженерии, искусственного интеллекта и мозговых компьютерных интерфейсов. «Мы изменимся до такой степени, что станем кем-то совершенно другим, чем-то гораздо более отличным от современного Homo sapiens, чем мы сегодня отличаемся от шимпанзе или от неандертальцев».
Но, предупредил Харари, компьютеризированный мозг, такой как проект Илона Маска Neuralink, будет уязвим для совершенно нового спектра угроз. Он продолжил: «Если возможно напрямую соединить мозг и компьютеры и интегрировать их в таких киборгов, никто понятия не имеет, что произойдет дальше». «Это, безусловно, делает возможным… если вы достигнете этой точки… что у вас появится межмозговая сеть. «Точно так же, как множество компьютеров соединены вместе, образуя Интернет, если вы можете напрямую соединить мозг и компьютеры, почему мы не можем тогда соединить межмозговую сеть, которая соединяет множество мозгов?» Он сказал, что вполне возможно, что эта мозговая сеть может быть взломана так же, как и нынешние компьютерные системы, что приведет к угрозам, которые современные люди даже не могут себе представить. «Я думаю, что мы не готовы к серьезному обсуждению того, на что способен неорганический мозг или неорганический разум», — добавил Харари.
А быстрый прогресс исследований ИИ может также предположительно принести новые проблемы, с которыми мы не готовы иметь дело. Он продолжил: «Все движется даже быстрее, чем я ожидал, когда писал Homo Deus в 2016 году. Я не думал, что мы достигнем этой точки так быстро… и мир к этому не готов». «Я не думаю, что человеческое общество сможет адаптироваться к новой реальности ИИ. Единственное, это требует времени, а его, видимо, у нас нет». Израильский историк добавил: «Люди сравнивают это с предыдущими большими историческими революциями, такими как изобретение печатного станка или промышленная революция. Вы слышите, как люди говорят, что когда в 19 веке произошла промышленная революция, у вас были все эти Пророчества Судьбы о том, как промышленность или новые фабрики, паровые двигатели и электричество, как они уничтожат Человечество или разрушат нашу психологию или что-то еще, но в конце концов все в порядке.
«Но когда я как историк слышу подобные сравнения, меня очень беспокоят две вещи: во-первых, они недооценивают масштабы революции искусственного интеллекта. ИИ не имеет ничего общего с печатью, он не похож на промышленную революцию 19-го века, он намного, намного масштабнее. «Разница в том, что это первая технология в истории, которая может сама принимать решения и сама создавать новые идеи. «Еще одна вещь, которая меня беспокоит в сравнении с такими вещами, как промышленная революция, заключается в том, что в конечном итоге все было в порядке. Но чтобы достичь этого, нам пришлось пройти через несколько ужасных экспериментов, когда пришла промышленная революция». Он считает, что политические эксперименты, такие как империализм, коммунизм и нацизм, были попытками осмыслить индустриальную эпоху. Эта следующая волна ужасных экспериментов, предупредил Харари, может стать последней, которую предпримет человечество в том виде, в каком мы его сейчас понимаем.
