|
ИИ в конечном счете уничтожит человечество
|
|
|
|
Ведущий эксперт предупредил, что искусственный интеллект вот-вот станет «сверхчеловеческим», что может означать конец человечества. Нейробиолог и философ Сэм Харрис считает, что есть что-то «опасное по своей сути» в том, чтобы быть вторым самым умным видом на планете. Он говорит, что в ближайшем будущем «большая часть того, что находится в Интернете, может скоро оказаться подделкой», что поставит под серьезную угрозу то, как мы выбираем наши правительства. И, если заглянуть чуть дальше, этот ИИ «может в конечном итоге нас уничтожить». Сэм предсказывает, что примерно через десять лет новые технологии сделают людей излишними и приведут к глобальному хаосу. Он говорит, что даже имеющихся у нас инструментов будет достаточно, чтобы вызвать крах цивилизации. «Я беспокоюсь, что жизнь может стать невыносимой в ближайшее время, прежде чем мы получим [настоящий ИИ]», — сказал он в подкасте «Дневник генерального директора».
|
|
|
«Я просто беспокоюсь о неправильном использовании узкого ИИ в то же время… просто возьмите текущий уровень ИИ, который у нас есть. «У нас есть чат GPT4. Я думаю, что в течение следующих 12 месяцев или двух лет — какой бы ни была GPT 5, мы столкнемся с чем-то, где большая часть того, что находится в Интернете, что претендует на информацию, скоро может оказаться фальшивкой». Сэм добавил, что почти все эксперты согласны с тем, что «в конечном итоге мы создадим искусственный общий интеллект, который будет сверхчеловеческим по своим возможностям». Это будет означать мыслящую машину, которая может рассуждать, воображать и, возможно, наиболее важно изобретать новые и лучшие искусственные интеллекты. «Мы будем в присутствии кого-то более умного, чем мы… моя интуиция подсказывает, что в этих отношениях есть что-то опасное для более глупой стороны», — продолжил он.
|
|
|
|
Сэм сравнивает появление истинного, независимого ИИ с чем-то вроде вторжения инопланетян, говоря: «Только подумайте, как бы вы себя чувствовали, если бы мы получили сообщение из другого места в галактике, и это было бы сообщение, которое мы расшифровали, и в нем говорилось: «Люди из Земля, мы прибудем на твою жалкую планету через 50 лет, готовься». Тот факт, что эти инопланетяне заметили нас и направлялись сюда, вызовет панику. Он продолжил: «Если бы мы получили сообщение от какого-то вида… просто по тому факту, что они общались с нами таким образом, мы знали бы, что они более компетентны, более могущественны и более умны, чем мы, и они». собирается приехать… «Мы бы чувствовали, что находимся на пороге самого важного изменения в истории нашего вида». По словам Сэма, появление настоящего ИИ не менее важно, но мало кто готовится к этому событию. Он добавил: «Это отношения, неизбежные отношения, которые нам навязывают. «Как будто в комнату входит новое существо со своими способностями, и теперь вы находитесь в этих отношениях, и одно совершенно точно: оно умнее вас».
|
|
|
|
Источник
|
