|
ИИ может быть использован для убийства людей
|
|
|
|
Бывший генеральный директор Google предупредил, что в будущем искусственный интеллект будет использоваться для убийства людей. Эрик Шмидт, который провел два десятилетия у руля поискового гиганта, заявил в среду на собрании руководителей высшего звена, что, по его мнению, ИИ представляет собой «экзистенциальный риск» для человечества, «определяемый как множество, многие, многие, многие люди, которым причинен вред или погибло». Доктор философии в области программного обеспечения сказал, что технология, которую Google помогает продвигать через свою относительно примитивную систему чат-ботов Bard, может быть «неправомерно использована злыми людьми», когда она станет более продвинутой. Шмидт, недавно возглавивший Комиссию национальной безопасности США по ИИ, стал последним из множества бывших сотрудников Google, публично выступивших против быстрого развития технологии в последние недели.
|
|
|
|
Особое внимание Шмидт уделил растущей способности ИИ выявлять уязвимости программного обеспечения для хакеров и неизбежному поиску новых биологических путей, которые могут привести к созданию устрашающего нового биологического оружия. «Есть сценарии не сегодня, но достаточно скоро, когда эти системы смогут находить эксплойты нулевого дня в киберпроблемах или открывать новые виды биологии», — сказал Шмидт перед саммитом совета директоров The Wall Street Journal в Лондоне. Так называемые «эксплойты нулевого дня» — это недостатки безопасности в коде — от персональных компьютеров до цифрового банкинга и инфраструктуры — которые только что были обнаружены и, следовательно, еще не исправлены группами кибербезопасности. Нулевые дни — ценные инструменты в арсенале хакеров. Шмидт не стал вдаваться в подробности того, какие «новые виды биологии», придуманные злонамеренно управляемым ИИ, беспокоят его больше всего. «Сегодня это фантастика, — предупредил Шмидт, — но ее рассуждения, скорее всего, верны. И когда это произойдет, мы хотим быть готовы знать, как убедиться, что эти вещи не используются злыми людьми».
|
|
|
Комментарии Шмидта, которые не являются его первыми предупреждениями, присоединяются к бурным дебатам в Силиконовой долине о моральных вопросах и смертельных опасностях, связанных с ИИ. Илон Маск, соучредитель Apple Стив Возняк и покойный Стивен Хокинг — одни из самых известных критиков искусственного интеллекта, которые считают, что он представляет «серьезный риск для общества и человечества» и может иметь «катастрофические последствия». Ранее этой весной «Крестный отец искусственного интеллекта» сенсационно ушел из Google, предупредив, что технология ИИ может изменить жизнь, какой мы ее знаем. Говоря с New York Times о своей отставке, он предупредил, что в ближайшее время А.И. заполонили интернет фальшивыми фотографиями, видео и текстами. Он добавил, что это будет стандарт, при котором средний человек «больше не сможет знать, что является правдой». Но Билл Гейтс, Май Пичаи и футурист Рэй Курцвейл находятся на другой стороне дебатов, приветствуя технологию как «самую важную» инновацию нашего времени. Но среди этих титанов только Шмидт руководил созданием гигантского 756-страничного отчета для правительства США о рисках национальной безопасности, создаваемых ИИ. «Америка не готова защищаться или конкурировать в эпоху ИИ, — писали Шмидт и его заместитель председателя Комиссии национальной безопасности США по ИИ в 2021 году. — Это суровая реальность, с которой мы должны столкнуться».
|
|
|
|
Шмидт, который в течение трех лет возглавлял орган по установлению фактов вместе с Бобом Уорком, бывшим заместителем министра обороны США, утверждал, что Китай находится на пути к тому, чтобы опередить США в качестве «сверхдержавы искусственного интеллекта» планеты Земля. «Мы не сможем защититься от угроз, связанных с искусственным интеллектом, — писали Шмидт и Ворк, — без повсеместных возможностей искусственного интеллекта и новых боевых парадигм». Их комитет посоветовал администрации Байдена взять на себя обязательство удвоить расходы правительства США на исследования и разработки в области искусственного интеллекта до 32 миллиардов долларов в год к 2026 году и освободиться от зависимости от зарубежного производства микрочипов. Шмидт и его комиссия также предложили США отказаться от любых призывов к глобальному запрету автономного оружия с искусственным интеллектом, утверждая, что ни Россия, ни Китай не будут поддерживать свою часть каких-либо договоров, запрещающих это оружие. Однако на этой неделе в Лондоне Шмидт сказал собравшимся генеральным директорам, что лично у него нет четких представлений о том, как должен или даже может регулироваться ИИ, предполагая, что это должен быть «более широкий вопрос для общества». Он выразил уверенность в том, что вряд ли будет создано новое регулирующее агентство для регулирования ИИ в Соединенных Штатах.
|
|
|
|
Источник
|
