|
Опасность стремления США к доминированию в области ИИ
|
|
|
|
Бывший глава Google Эрик Шмидт говорит, что США должны воздержаться от реализации новомодного "Манхэттенского проекта", направленного на завоевание превосходства искусственного интеллекта, поскольку это спровоцирует упреждающие кибератаки со стороны таких конкурентов, как Китай, которые могут привести к эскалации конфликта.
|
|
|
|
Шмидт является одним из трех соавторов статьи, в которой искусственный интеллект сравнивается с ядерным оружием времен холодной войны, и предупреждает, что гонка за разработкой все более совершенных ИИ может нарушить глобальный баланс сил и повысить вероятность конфликта между великими державами.
|
|
|
|
В документе "Стратегия сверхразума" утверждается, что стремительный прогресс в области искусственного интеллекта может изменить почти все аспекты жизни общества, но правительства рассматривают его как средство достижения военного превосходства, что приведет к "ожесточенной гонке" за максимизацию возможностей ИИ.
|
|
|
|
В документе утверждается, что создание "сверхразумного" ИИ, превосходящего человека почти во всех областях, стало бы самым опасным технологическим достижением со времен атомной бомбы.
|
|
|
|
Другие авторы - Дэн Хендрикс, директор Центра безопасности искусственного интеллекта, и Александр Ванг, основатель и генеральный директор Scale AI.
|
|
|
|
|
|
|
Негласное предположение состоит в том, что США - это страна, которая будет лидировать в развитии искусственного интеллекта, в то время как Китай будет страшным агрессором, наносящим своего рода упреждающий удар. Похоже, авторам не приходило в голову, что Китай недавно удивил мир возможностями искусственного интеллекта, на которые, как считалось, он не способен, или что большинство киберугроз исходит от России.
|
|
|
|
Еще одно невысказанное предположение заключается в том, что "сверхразум" на самом деле возможен, а не просто какая-то несбыточная мечта.
|
|
|
|
Любое государство, которому удается создать более совершенный ИИ, представляет прямую угрозу выживанию своих аналогов, и авторы статьи утверждают, что государства, стремящиеся обеспечить свое собственное выживание, будут вынуждены саботировать такие дестабилизирующие проекты ИИ в целях сдерживания. Это может принимать форму тайных операций, направленных на то, чтобы свести тренировки к прямому физическому ущербу, выводящему из строя инфраструктуру искусственного интеллекта.
|
|
|
|
Таким образом, говорится в документе, мы уже приближаемся к динамике, подобной ядерному взаимному гарантированному уничтожению (MAD) – такому состоянию разрядки, которое сложилось во время холодной войны, – при котором ни одна держава не осмелится предпринять попытку прямого захвата стратегической монополии, поскольку любая такая попытка повлечет за собой "изнурительный" ответ.
|
|
|
|
Шмидт и компания называют эту взаимную гарантированную неисправность ИИ MAIM - комбинацией слов, которые, вероятно, были выбраны для этой аббревиатуры. Под MAIM они подразумевают, что проекты ИИ, разрабатываемые государствами, сдерживаются взаимными угрозами саботажа.
|
|
|
|
Однако технология искусственного интеллекта также может принести пользу во многих сферах жизни общества, от прорывов в медицине до автоматизации. По мнению авторов, использование преимуществ искусственного интеллекта важно для экономического роста и прогресса в современном мире.
|
|
|
|
Согласно документу, государства, решающие проблемы, могут следовать одной из трех стратегий. Первая - это подход "без участия", без каких-либо ограничений для разработчиков ИИ, чипов или моделей. Сторонники этой стратегии настаивают на том, чтобы правительство США не вводило никаких ограничений для компаний, занимающихся искусственным интеллектом, чтобы они не ограничивали инновации и не давали Китаю преимущества.
|
|
|
|
Вторая - это всемирная стратегия добровольного моратория, направленная на прекращение дальнейшего развития ИИ, либо немедленно, либо после обнаружения определенных опасных возможностей, таких как взлом или автономная работа.
|
|
|
|
Третья - это стратегия монополии, при которой международный консорциум, подобный европейскому ЦЕРН, будет руководить глобальным развитием ИИ.
|
|
|
|
После изложения этих трех альтернатив авторы выделяют предложение Американо-китайской комиссии по обзору экономики и безопасности (USCC) направить финансирование правительства США на своего рода Манхэттенский проект по созданию сверхразума. Это привело бы к применению Закона об оборонном производстве для направления ресурсов на удаленный объект, предназначенный для разработки супер-искусственного интеллекта, чтобы получить стратегическую монополию.
|
|
|
|
Такая стратегия неизбежно вызовет тревогу, и Китай не будет сидеть сложа руки, ожидая, когда США начнут диктовать ему свои условия, как только он достигнет уровня сверхразума, предупреждают авторы. Это предполагает, что соперники скорее смирятся с длительным дисбалансом сил, чем предпримут действия по его предотвращению, тем самым подрывая саму стабильность, которую призвана обеспечить стратегия.
|
|
|
|
В документе делается вывод о том, что государствам следует уделять приоритетное внимание сдерживанию, а не победе в гонке за сверхразум. MAIM подразумевает, что любое государство, стремящееся к стратегической монополии на ИИ, столкнется с ответными мерами со стороны конкурентов, а также с соглашениями о нераспространении ядерного оружия, аналогичными контролю над ядерными вооружениями, направленными на ограничение использования чипов ИИ и моделей с открытым весом, чтобы ограничить действия злоумышленников.
|
|
|
|
"Государства, которые действуют прагматично, а не с фатализмом или отрицанием, могут оказаться в выигрыше от значительного роста благосостояния. Поскольку ИИ распространяется по бесчисленным секторам, общества могут повышать уровень жизни, а отдельные люди могут улучшать свое благосостояние так, как они считают нужным".
|
|
|
|
Вероятность того, что это произойдет, высока. США, скорее всего, выберут стратегию невмешательства и позволят своему технологическому сектору делать все, что он хочет, без каких-либо ограничений. По крайней мере, мы можем утешать себя тем, что до реализации любого "сверхразума", скорее всего, еще далеко.
|
|
|
|
Источник
|
