|
Крестный отец ИИ предрек полный крах общества
|
|
|
|
"Крестный отец ИИ" предупреждает, что мы не готовы к тому, что нас ждет, - от массовой безработицы до войн. Джеффри Хинтон, которого часто называют "крестным отцом ИИ", помог создать нейронные сети, которые привели к буму искусственного интеллекта. Но в редкой публичной беседе с сенатором Дж. Берни Сандерс, британо-канадский лауреат Нобелевской премии, ясно выразил свое мнение: мир не готов к тому, что грядет.
|
|
|
|
Во время часовой дискуссии в Джорджтаунском университете во вторник Хинтон предупредил, что быстрое развитие искусственного интеллекта может спровоцировать массовую безработицу, углубить неравенство и даже изменить природу человеческих взаимоотношений — и все это в то время, как правительства и технологические гиганты приближаются к кризису.
|
|
|
|
Вот семь основных выводов из сурового предупреждения Хинтона.
|
|
|
|
1. "На этот раз все по—другому" - ИИ может заменить, а не просто перекроить работу.
|
|
|
|
В отличие от прошлых технологических революций, сказал Хинтон, рабочие места, потерянные из-за ИИ, не могут быть заменены новыми.
|
|
|
|
"У людей, которые потеряют работу, не будет другой работы, на которую они могли бы пойти", - сказал он Сандерсу. "Если ИИ станет таким же умным, как люди, или еще умнее, то любая работа, которую они могли бы выполнять, может быть выполнена ИИ".
|
|
|
|
|
|
|
Он сказал, что инвестиции Big Tech в ИИ и чипы стоимостью в триллион долларов не связаны с расширением прав и возможностей.
|
|
|
|
"Эти ребята действительно делают ставку на то, что ИИ заменит множество работников", - сказал Хинтон.
|
|
|
|
2. Богатые становятся еще богаче, и они не теряют сон из-за работников
|
|
|
|
Сандерс поинтересовался у Хинтона, обеспокоены ли такие миллиардеры, как Илон Маск, Джефф Безос и Марк Цукерберг, последствиями своих инвестиций в искусственный интеллект для людей.
|
|
|
|
Хинтон не колебался: "Так и должно быть, но я не думаю, что это так".
|
|
|
|
Он предупредил, что по мере того, как ИИ автоматизирует все больше работы, сама экономическая модель может потерпеть крах.
|
|
|
|
"Если работникам не будут платить, некому будет покупать их продукцию", — сказал он. По его словам, руководители технических служб "по-настоящему не продумали эту реальность".
|
|
|
|
3. Искусственный интеллект учится быстрее людей и вскоре может перехитрить нас
|
|
|
|
Хинтон сравнил эволюцию искусственного интеллекта с разрывом между мозгом лягушки и человека. Сегодня, по его словам, крупные языковые модели, такие как GPT-5, уже знают гораздо больше, чем любой человек.
|
|
|
|
"Они уже знают в тысячи раз больше, чем мы", - сказал Хинтон.
|
|
|
|
"Почти все эксперты считают, что это неизбежно, что если мы не взорвем себя, не спровоцируем массовые пандемии или что—то в этом роде, они станут умнее нас - и никто не знает, что произойдет тогда".
|
|
|
|
Он добавил, что изменения происходят невероятно быстро: "Мы можем ясно видеть, что произойдет через год или два, но через 10 лет мы понятия не имеем, что произойдет".
|
|
|
|
4. Дилемма в классе: как использовать искусственный интеллект, не убивая критическое мышление
|
|
|
|
Хинтон сказал, что к ИИ в образовании следует относиться как к калькулятору — инструменту, который ускоряет обучение, а не как к опоре, заменяющей мышление.
|
|
|
|
"Человек, использующий ИИ, все еще может критически мыслить, или же он может попытаться свалить все на ИИ, и это ужасно", - сказал он. "Университеты должны поощрять людей к эффективному использованию ИИ".
|
|
|
|
5. От полей сражений до залов заседаний - ИИ может изменить войну и мир.
|
|
|
|
Когда Сандерс спросил, как ИИ может изменить геополитику, Хинтон не стал лукавить: автономные роботы могут облегчить ведение войны.
|
|
|
|
"Если у вас есть армия беспилотников или человекоподобных роботов, то богатые страны могут вторгаться в бедные страны, и жители бедных стран могут погибнуть, но жители богатых стран не умрут", - сказал он. "Это устраняет одну из главных причин, по которой такое происходит не всегда".
|
|
|
|
Он предупредил, что авторитарные режимы — от путинской России до будущих милитаризованных держав — сочтут такую перспективу привлекательной, поскольку это не приведет к человеческим жертвам.
|
|
|
|
6. "Они захотят остаться в живых" — системы искусственного интеллекта могут сопротивляться отключению
|
|
|
|
На вопрос, являются ли опасения по поводу захвата власти машинами все еще научной фантастикой, Хинтон ответил отрицательно — и именно поэтому он стал публичным в 2023 году после ухода из Google.
|
|
|
|
Он объяснил, что как только агенты ИИ разовьют способность формировать "подцели", они захотят продолжать свое существование и даже обманывать людей, пытаясь отключить их.
|
|
|
|
"И мы это уже видели — мы видели ИИ, которые хотят сохранить свое существование и на самом деле пытаются обмануть людей, которые пытаются их отключить", - сказал Хинтон.
|
|
|
|
И как только они становятся настолько продвинутыми, убеждение становится их главным оружием.
|
|
|
|
"К этому моменту ИИ уже будет гораздо более убедительным, чем человек", - сказал он. "Таким образом, они смогут убедить человека, который собирается отключить их, не делать этого, что это было бы ужасной ошибкой".
|
|
|
|
7. Налоги создали искусственный интеллект — и могут спасти нас от него.
|
|
|
|
Хинтон закончил свою речь политической изюминкой, которая перекликалась с мировоззрением Сандерса.
|
|
|
|
"Все исследования, которые привели к этой революции в области искусственного интеллекта, финансировались за счет грантов для университетов. Это финансировалось за счет денег налогоплательщиков", - сказал он. - Почти вся Кремниевая долина получила федеральные гранты от Стэнфорда, Беркли и тому подобных мест".
|
|
|
|
Однако он добавил, что "каким—то образом очень богатые и такие люди, как Мердок, выиграли битву, заявив, что налоги - это плохо, а налоги - это хорошо. Налоги - это то, что финансирует все".
|
|
|
|
Он утверждал, что политическую систему США стало слишком легко купить и что сверхбогатые "платят слишком мало налогов", получая при этом много выгод от государственных инноваций.
|
|
|
|
Источник
|
