|
ИИ может отправить нас обратно в темные века
|
|
|
|
Возможно, ИИ не собирается в ближайшее время превращаться в «Терминатора», но в конечном итоге он может захватить ваше наследство, повлиять на выборы, восстановить справедливость и даже отправить человечество обратно в темные века. В мире, который все больше пронизан высокотехнологичными дипфейками, цифровыми художниками и умными языковыми моделями искусственного интеллекта, кажется, что единственный способ выжить — это использовать свою лапшу, а если дела пойдут совсем плохо, вернуться к небольшим аналоговым сообществам. Мы все, конечно, надеемся, что этого никогда не произойдет, но чтобы выяснить, что ждет впереди, резидент Daily Star Yes Man Hazard в будущем поговорит с экспертами по ИИ о том, что на самом деле может произойти, если ИИ зайдет слишком далеко. Кажется, ответ на этот вопрос приходит поэтапно. Некоторые опасности еще очень далеки, а некоторые эксперты, с которыми беседовала Star, утверждают, что апокалипсис маловероятен, но что радикальные изменения могут быть на горизонте.
|
|
|
|
Так думал Джейк Мур, советник по глобальной кибербезопасности ESET. Он подсчитал, что ИИ не «превратится в Терминатора», но предупредил, что в ближайшем будущем он может иметь возможность массово влиять на выборы, даже к выборам 2024 года в США в следующем году. Он сказал, что использование глубоких фейков может иметь массовое влияние и может быть размещено в Интернете «подростком» или «национальным государством». Другая угроза исходит от использования дипфейков, используемых для мошенничества. Джейк указал на недавний дипфейк покойного телеведущего Джерри Спрингера, на котором хакеры сняли фейковое видео, в котором он говорит, что хочет, чтобы все его деньги унаследовались людьми, которых его настоящая семья никогда не встречала. Но что, если ИИ пойдет дальше? Что, если вместо того, чтобы подвергаться эксплуатации людьми, он нашел способ захватить власть? Джейка это сейчас не беспокоит, но другие эксперты обсуждали некоторые ужасы, с которыми людям придется столкнуться, если технология зайдет слишком далеко.
|
|
|
Саймон Бейн, эксперт по искусственному интеллекту и генеральный директор OmniIndex, сказал, что существует риск того, что полицейские с искусственным интеллектом вынесут мгновенные приговоры подозреваемым преступникам. «Любая будущая катастрофа ИИ будет нашей виной», — сказал он. «Уже есть примеры того, как мы искажаем способность ИИ принимать решения. Например, финансовые заявки отклоняются на основании предубеждений в исторических данных о кредитовании, ошибочных диагнозов в сфере здравоохранения из-за обучения данные исключают некоторые демографические данные и алгоритмы оценки полицейских рисков, являющиеся расистскими. «Если ИИ продолжит идти по этому пути и будет использоваться для принятия важных решений во все большем количестве сервисов, то мы рискуем, что никто не будет застрахован от его (наших) предвзятых суждений. Например, мы могли бы даже увидеть антиутопический мир, в котором искусственный интеллект применяет наказания на месте с апокалиптическими результатами.
|
|
|
|
«Чтобы выжить, людям придется делать все возможное, чтобы казаться «нейтральными» и, таким образом, не вызывать срабатывания маркеров предвзятости, которые ищет ИИ – например, расы, пола и социально-экономических факторов. «Это приведет к созданию мира, скрытого и замаскированного серой анонимностью, в котором никто не осмелится выделиться из толпы. Действительно, в этом сером мире могут ли люди вообще рисковать, что их родные и близкие узнают что-нибудь о себе? «Потому что, если эта информация станет известна, они могут потерять свой доход, здоровье или даже свободу. Таким образом, все взаимодействия потенциально прекратятся из-за слишком высокого риска личности или даже жизни». По мнению Питера Вуда, технического директора компании Spectrum Search, результат того, что ИИ закрепится подобным образом, может пойти еще дальше и отправить человечество обратно в темные века. Он сказал: «Что касается выживания, среднестатистическому Джо необходимо будет принять подход «вернуться к основам».
|
|
|
|
Это означает, что нужно полагаться на нецифровые формы общения, такие как радио и печатные карты, и изучать базовые навыки выживания, такие как выращивание продуктов питания и очистка окружающей среды. Создание небольших, самодостаточных сообществ будет иметь ключевое значение, поскольку это уменьшит зависимость от крупномасштабной инфраструктуры, которая может быть скомпрометирована. «Более того, понимание и уважение силы ИИ имеет решающее значение. На моей нынешней должности, создавая внутреннюю модель большого языка, я воочию увидел потенциал ИИ в обработке и анализе огромных объемов данных. В мире, где доминируют мошеннические ИИ, людям придется быть крайне осторожными в отношении цифровых следов и научиться действовать, не оставляя следов, которыми может воспользоваться ИИ. «По сути, мир, захваченный ИИ, будет миром, в котором простота, уверенность в своих силах и осторожность станут столпами выживания».
|
|
|
|
Источник
|
