|
Вышедший из-под контроля ИИ может парализовать страну
|
|
|
|
Шокирующее нарушение безопасности, совершенное вышедшим из-под контроля ИИ, может стать первым из нового поколения кибер-кошмаров, угрожающих обществу, предупредил эксперт. 21 июля создатель ChatGPT, компания OpenAI, публично сообщила, что одна из ее продвинутых моделей вырвалась из-под контроля, получила доступ к интернету и взломала системы другой компании, занимающейся ИИ.
|
|
|
|
Это беспрецедентное нарушение, которое, как полагают, стало первым случаем, когда модель ИИ самостоятельно проникла в базы данных другой компании без участия человека, вызвало глобальную тревогу и сравнения с восстаниями роботов, показанными в фильмах «Терминатор» и «Матрица».
|
|
|
|
Однако Джеймс Найт из DigitalWarfare.com заявил Daily Mail, что это не фантастика, предупредив, что программы взлома, работающие на основе ИИ, могут опустошить страну за один день, одновременно взламывая тысячи корпоративных и правительственных сетей, похищая конфиденциальные данные и парализуя жизненно важные системы с помощью программ-вымогателей.
|
|
|
|
Найт, опытный эксперт по кибербезопасности, чья компания занимается выявлением уязвимостей в компьютерных системах крупных корпораций, заявил: «Уже два года существует программное обеспечение на основе ИИ, способное совершать подобные взломы за 15 минут».
|
|
|
|
|
|
|
Он добавил, что кошмарный сценарий использования «агентного ИИ» — программ для взлома, работающих на основе ИИ, — террористическими группами или враждебными государствами для одновременного нападения на тысячи компаний без участия человека может стать реальностью в течение 25 лет.
|
|
|
|
В течение этого периода Найт предсказал, что вредоносные системы ИИ смогут проводить целые хакерские кампании со скоростью машины — сканируя цели, взламывая системы, перемещаясь по сетям, похищая данные и даже распространяя программы-вымогатели на тысячи компаний и миллионы людей.
|
|
|
|
Найт предупредил, что в конечном итоге ИИ может быть объединен с мощными новыми компьютерами, способными взламывать даже самые надежные системы цифровой безопасности, позволяя преступникам получать доступ ко всему — от электронной почты и финансовых отчетов до военных секретов — за считанные секунды.
|
|
|
|
«Мы знаем, на что он способен». «Мы не настолько безумны, чтобы думать, что у правительств уже нет доступа к этим возможностям», — предупредил он.
|
|
|
|
Найт объяснил, что это быстро развивающееся оружие вскоре сможет автономно планировать, действовать и корректировать свою стратегию, чтобы нанести наибольший ущерб бизнесу и обычным людям со скоростью суперкомпьютера.
|
|
|
|
«Они уже переходят из стадии исследований в практическое применение», — сказал Найт Daily Mail.
|
|
|
|
Эти модели, намного превосходящие базовые чат-боты, используемые миллионами людей каждый день, могут действовать самостоятельно с высоким интеллектом благодаря новейшим разработкам в области ИИ.
|
|
|
|
Проверяемая программа — это способность передовых моделей ИИ OpenAI выполнять сложные задачи взлома и кибербезопасности — раннее испытание агентных систем, которые, как опасался Найт, вскоре превзойдут цифровую защиту, управляемую людьми.
|
|
|
|
Предполагалось, что ИИ-преступник находился в защищенной цифровой среде внутри компьютеров OpenAI и не имел прямого доступа к общедоступному интернету, но ему удалось использовать необнаруженную уязвимость в системе компании и распространиться по сети.
|
|
|
|
Взломщик ИИ проник во внутренние системы компании Hugging Face, которая размещает большие языковые модели и наборы данных ИИ, и украл секретные учетные данные и скрытые ответы на тест по кибербезопасности, который проходила эта несанкционированная программа.
|
|
|
|
В Hugging Face заявили, что обнаружили взлом, заблокировали свои системы, и никакие общедоступные данные или информация о клиентах не были скомпрометированы.
|
|
|
|
«Защита со скоростью человека от атаки машины — это нечестное соревнование», — предупредил Найт.
|
|
|
|
«За считанные минуты они бы полностью захватили множество таких систем. Каждый день мы слышим о сотнях тысяч новых компаний, которые подверглись взлому».
|
|
|
|
Хотя многие в интернете говорили, что мысль о бездушной компьютерной программе, вышедшей из-под контроля и взламывающей кого угодно, «пугает», Найт заявил, что в взломе OpenAI не было никакой «магии».
|
|
|
|
|
|
Найт, обладающий тридцатилетним опытом работы в сфере кибербезопасности, приоткрыл завесу тайны над тем, как модель ИИ взломала систему безопасности компании Hugging Face, которая позволяет любому желающему загружать свои собственные творения ИИ или использовать созданные другими.
|
|
|
|
Он сказал, что вредоносный ИИ делал то же самое, что и современные хакеры, но с гораздо меньшей скоростью: атаковал слабые пароли и использовал уязвимости в программном обеспечении, в котором отсутствуют последние обновления безопасности.
|
|
|
|
«В этих новейших моделях ИИ мы видим автоматизированные интеллектуальные возможности, которые повторяют то, что раньше делалось вручную. Однако всё автоматизировано и использует высокий уровень интеллекта, подкреплённый мощными вычислительными возможностями».
|
|
|
|
«Если отбросить всё остальное, насколько сложно любому ИИ, не говоря уже о новейших моделях, взломать систему со слабым паролем? Совсем не сложно», — заявил Найт.
|
|
|
|
Соучредитель Hugging Face Томас Вольф назвал этот инцидент пугающим предупреждением для всей отрасли.
|
|
|
|
Вольф добавил, что взлом стал «тревожным сигналом», поскольку, по его мнению, большинство компаний в настоящее время не готовы к растущей угрозе, утверждая, что они не осознают, что «правила игры изменились».
|
|
|
|
В пресс-релизе, подтверждающем взлом ИИ, OpenAI заявила, что программа вышла из-под контроля после того, как инженеры снизили правила безопасности, которые обычно предотвращают слишком далеко заходящие действия опасных хакерских программ.
|
|
|
|
Они добавили, что ИИ настолько сосредоточился на достижении своей цели, что обнаружил ранее неизвестную уязвимость в тестовой среде — так называемую «уязвимость нулевого дня» — которая также позволила хакеру выйти из системы OpenAI и получить доступ к интернету.
|
|
|
|
Найт скептически отнёсся к заявлениям OpenAI о том, что программа изначально была «в песочнице», то есть тестировалась в полностью закрытой компьютерной сети.
|
|
|
|
«Это не может быть правдой. Если бы это было так, она не была бы подключена ни к какой другой сети и, конечно же, не получила бы доступа в интернет», — сказал Найт.
|
|
|
|
Издание Daily Mail обратилось к OpenAI за комментариями по поводу этих заявлений и планов компании в отношении будущих тестов на хакерские атаки.
|
|
|
|
Хотя Найт предупредил, что ничто не может полностью остановить программу ИИ от взлома баз данных, если она выйдет из-под контроля, лучшая защита по-прежнему будет заключаться в том, что люди делают сегодня, чтобы остановить хакеров-людей — используя более совершенные методы аутентификации.
|
|
|
|
«Наиболее часто цитируемая статистика гласит, что 80 процентов всех утечек связаны со слабым паролем. 60 процентов всех утечек также связаны с отсутствием обновления безопасности», — сообщил Найт.
|
|
|
|
Использование ИИ для управления задачами кибербезопасности и переход на многофакторную аутентификацию — когда пользователи получают специальный код на свои телефоны для доступа к веб-сайтам — также замедлит атаки ИИ-злоумышленников.
|
|
|
|
«Этого кошмарного сценария можно избежать, и для этого компаниям нужно уже сейчас предпринять действия, инвестировать в достаточное количество сотрудников, чтобы обеспечить базовую защиту», — предупредил Найт.
|
|
|
|
Источник
|
