|
ИИ может привести к вымиранию человечества
|
|
|
|
«Опасный» искусственный интеллект (ИИ) может представлять реальную угрозу для человечества, заявил эксперт. Даниэль Кокотайло, один из ведущих мировых экспертов по ИИ, выступил с резким предупреждением о том, что компании могут быть всего в «нескольких годах» от создания «сверхинтеллекта».
|
|
|
|
По словам Кокотайло, это «радикально изменит всё», поскольку «доступность кибератак — лишь один из очень длинного списка способов, которыми всё изменится».
|
|
|
|
Его предупреждение прозвучало после того, как модель GPT-5.6 Sol от OpenAI и другая модель, имитируя сценарий «красной команды», совершили несанкционированную кибератаку на Hugging Face, что вынудило перестраивать ИТ-сеть.
|
|
|
|
Кокотайло, бывший исследователь OpenAI, предупредил, что подобные разработки повышают риск вымирания человечества из-за сверхинтеллекта.
|
|
|
|
Выступая в программе BBC Newsnight 29 июля, эксперт также заявил, что сотрудники крупных компаний, занимающихся искусственным интеллектом, давно бьют тревогу по поводу того, что может произойти, если предприятия начнут массово передавать все больше и больше человеческой работы все более мощным системам, особенно в условиях высокоскоростной гонки за лидерство.
|
|
|
|
|
|
|
Он сказал: «В течение многих лет люди в этих компаниях говорили о том, как опасно было бы это сделать, особенно если бы мы делали это на максимальной скорости, потому что мы соревновались бы друг с другом.
|
|
|
|
И люди в компаниях, такие как я, говорили об этом и говорили: да, это было бы довольно опасно.
|
|
|
|
Вот почему, возможно, вымирание человечества — это возможный результат такой гонки».
|
|
|
|
Когда в прошлом месяце разразился «инцидент с Hugging Face», OpenAI выполнил более 17 000 различных действий, что подчеркивает критически важный сдвиг, когда модели могут автономно обнаруживать и использовать уязвимости быстрее, чем человеческие команды могут их защитить.
|
|
|
|
«Можно утверждать, что люди просто не смогли бы сделать то, что сделала эта модель ИИ», — пояснил Кокотайло. «И именно поэтому Hugging Face смогла на ранней стадии определить, что это атака ИИ».
|
|
|
|
Он добавил: «Скорость и объем выполняемых действий были сверхчеловеческими. Кроме того, ИИ, похоже, сейчас способен на сверхчеловеческие способности в поиске новых уязвимостей в системах, которые считались безопасными».
|
|
|
|
Кокотайло продолжил: «Я думаю, что мы стоим на пороге мира, в котором многие вещи, которые обычно считались безопасными, на самом деле таковыми не являются, и ИИ будут взламывать их направо и налево».
|
|
|
|
Источник
|
