|
Технология ИИ может привести к вымиранию человечества
|
|
|
|
Один из «крестных отцов» искусственного интеллекта (ИИ) признался, что чувствует себя «потерянным» из-за работы всей своей жизни. Лауреат Нобелевской премии по информатике профессор Йошуа Бенджио призвал всех, кто создает продукты ИИ, зарегистрироваться и пройти этическое обучение. На этой неделе он присоединился к десяткам экспертов, которые написали открытое письмо, предупреждая, что ИИ может привести к вымиранию человечества и должен стать «глобальным приоритетом» наряду с такими катастрофическими событиями, как ядерная война и пандемии. «Эмоционально говоря, это сложно для людей, которые работают внутри (сектор ИИ)», — сказал профессор Бенжио в интервью Би-би-си. «Можно сказать, что я чувствую себя потерянным. Но вы должны продолжать, и вы должны вовлекать, обсуждать, побуждать других думать вместе с вами». Письмо, подготовленное Центром безопасности ИИ, было подписано руководителями крупных технологических гигантов, таких как Google, DeepMind и Anthropic. Другой новаторский ученый, Джеффри Хинтон, также подписал письмо, поскольку в начале этого месяца он сенсационно ушел из Google.
|
|
|
|
Он предупредил, что вымирание человечества может быть на горизонте, если ИИ попадет в чужие руки, добавив, что это происходит намного быстрее, чем предполагалось. Перед лицом этих опасений профессор Бенжио вновь призвал к тому, чтобы отслеживание роста ИИ было ключом к обеспечению безопасного контроля его использования. Он продолжил: «Правительства должны отслеживать, что они делают, они должны иметь возможность их проверять, и это лишь минимум того, что мы делаем для любого другого сектора, такого как производство самолетов, автомобилей или фармацевтики. «Нам также нужно, чтобы люди, близкие к этим системам, имели своего рода сертификацию… здесь нам нужна этическая подготовка. Между прочим, программисты обычно этого не понимают. На прошлой неделе премьер-министр Риши Сунак заявил, что «ограждения» необходимы для защиты от «экзистенциальных угроз», а также для стимулирования инноваций в области искусственного интеллекта. Хотя многие высказывали опасения по поводу дезинформации, генерируемой ИИ, и ее потенциального использования для разработки оружия, он может точно выполнять жизненно важные задачи в области медицины.
|
|
|
Сегодня Сунак ретвитнул заявление Центра безопасности ИИ, комментируя: «Правительство очень внимательно следит за этим. «На прошлой неделе я подчеркнул для компаний, занимающихся искусственным интеллектом, важность установки ограждений, чтобы разработка была безопасной и надежной. Но нам нужно работать вместе. Вот почему я поднял его на @G7 и сделаю это снова, когда приеду в США». Профессор Бенжио добавил, что «никогда не поздно исправиться» среди нынешних опасений. «Это точно так же, как изменение климата», — сказал он. «Мы выбросили в атмосферу много углерода. И было бы лучше, если бы мы этого не делали, но давайте посмотрим, что мы можем сделать сейчас. Мысли профессора были также подтверждены сэром Найджелом Шаболтом, председателем лондонского Института открытых данных. Хотя он признал, что ИИ является «силой добра», сэр Шаболт подчеркнул, что перед человечеством стоят экзистенциальные проблемы.
|
|
|
|
Он сказал Би-би-си: «Мы не совсем знаем, как понять абсолютные последствия этой технологии, у всех нас есть общее понимание того, что нам нужно ответственно вводить новшества, что нам нужно думать об этническом измерении, ценностях, которые эти системы воплощают. «Мы должны понимать, что ИИ — это огромная сила добра. Мы должны понимать, что не самое худшее, (но) есть много экзистенциальных проблем, с которыми мы сталкиваемся… наши технологии находятся на одном уровне с другими вещами, которые могут нас сократить, будь то климат или другие проблемы, с которыми мы сталкиваемся. «Но мне кажется, что если мы подумаем сейчас, заранее, если мы действительно предпримем шаги, за которые выступают такие люди, как Йошуа, это будет хорошим первым шагом, очень хорошо, что у нас есть поле, собравшееся вместе, чтобы поймите, что это мощная технология, у которой есть темная и светлая стороны, у нее есть инь и ян, и нам нужно много голосов в этих дебатах».
|
|
|
|
Источник
|
