|
Крестный отец искусственного интеллекта ушел из Google
|
|
|
|
«Крестный отец» искусственного интеллекта (ИИ) бросил гранату в яростные дебаты об опасностях технологии — после того, как сенсационно уволился с работы в Google и сказал, что сожалеет о работе всей своей жизни. Британско-канадский пионер Джеффри Хинтон, 75 лет, еще больше раздул пламя нарастающей гражданской войны в Силиконовой долине, выпустив леденящее душу предупреждение о том, что «страшные» чат-боты, такие как чрезвычайно популярный ChatGPT, вскоре могут стать умнее людей. Некоторые из величайших умов мира разделились во мнениях относительно того, уничтожит ли ИИ человечество или возвысит его: миллиардер Microsoft Билл Гейтс отстаивает технологию, а основатель Tesla Илон Маск выступает ярым критиком. Ожесточенный спор стал достоянием общественности в начале этого года, когда более 1000 технологических магнатов подписали письмо, призывающее приостановить «опасную гонку» по развитию ИИ.
|
|
|
|
Они заявили, что необходимы срочные действия, прежде чем люди потеряют контроль над технологией и рискуют быть уничтоженными роботами. Сторонники, однако, утверждают, что ИИ может быть блестящей вещью для цивилизации, потому что он может помочь вылечить рак, решить проблему изменения климата и искоренить бедность. Теперь, в сейсмический момент в битве между двумя враждующими группировками, доктор Хинтон произвел поразительный залп, подав заявление об отставке и забив тревогу об опасностях, связанных с тем, как быстро продвигается ИИ. Он сказал, что чат-боты уже способны хранить больше общих знаний, чем человеческий мозг, и добавил, что это лишь вопрос времени, когда ИИ затмит нас, когда дело доходит до рассуждений. На данный момент, по его словам, «плохие актеры», такие как президент России Владимир Путин, могут использовать ИИ для «плохих дел», программируя роботов, чтобы «получить больше власти». Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей заложили основы современных технологий искусственного интеллекта, но он предупредил, что теперь человечество должно «беспокоиться» о последствиях дальнейшего развития этих систем.
|
|
|
— Насколько я могу судить, сейчас они не умнее нас. Но я думаю, что скоро они могут быть», — сказал Би-би-си британо-канадский когнитивный психолог и специалист по информатике. Отраслевые эксперты заявили, что заявление доктора Хинтона стало «важным моментом для будущего ИИ», которое «привлекло внимание всего мира». Джейк Мур, глобальный советник по кибербезопасности в ESET, сказал: «Хотя мы немного далеки от того, чтобы компьютеры атаковали людей, злоумышленники уже используют преимущества этой технологии, чтобы помочь им в своих атаках. «Мы потратили много лет, инвестируя в ИИ, но это замечательное достижение неизбежно будет использовано во зло и может стать частью более масштабных атак, особенно если они будут использоваться в атаках на уровне государства». Профессор Алан Уинфилд из Университета Западной Англии (UWE Bristol) похвалил доктора Хинтона за высказывание. «Как человек, который почти 15 лет беспокоился об этике роботов и ИИ и выступал за ответственные инновации и регулирование, я чувствую себя несколько оправданным, хотя и не менее обеспокоенным», — сказал он. «Однако, как один из тех, кто подписал открытое письмо FLI, я рад, что мы — и Хинтон — привлекли внимание всего мира».
|
|
|
|
Доктор Карисса Велиз, адъюнкт-профессор искусственного интеллекта в Оксфордском университете, добавила: «То, что так много экспертов высказывают опасения по поводу безопасности ИИ, а некоторые ученые-компьютерщики доходят до того, что сожалеют о некоторых своих работах, должно настораживать». политики. Настало время регулировать ИИ». Решение доктора Хинтона покинуть Google, которое, по его словам, отчасти было связано с его возрастом, было принято на фоне ожесточенных споров в Силиконовой долине об опасностях ИИ. Растущий разрыв происходит после необычайного роста ChatGPT, который в последние месяцы покорил мир, сдав ведущие медицинские и юридические экзамены, на подготовку которых у людей уходит почти три месяца. Маск, соучредитель Apple Стив Возняк и покойный Стивен Хокинг — одни из самых известных критиков искусственного интеллекта, которые считают, что технология представляет «серьезный риск для общества и человечества» и может иметь «катастрофические» последствия. Однако Гейтс, генеральный директор Google Сундар Пичаи и футурист Рэй Курцвейл находятся на другой стороне дискуссии. Они считают, что искусственный интеллект, подобный ChatGPT, может стать «самой важной» инновацией нашего времени.
|
|
|
|
Гражданская война стала еще более очевидной в конце марта с публикацией письма об Институте будущего жизни. Основатель DeepAI Кевин Барагона, который был среди тех, кто его подписал, объяснил, почему быстро развивающаяся область ИИ была такой опасной. «Это почти похоже на войну между шимпанзе и людьми», — сказал он DailyMail.com. «Люди явно побеждают, поскольку мы намного умнее и можем использовать более продвинутые технологии, чтобы победить их. «Если мы будем как шимпанзе, то ИИ уничтожит нас или мы станем его рабами». С другой стороны, Гейтс поддерживает развитие ИИ, провозглашая технологию, подобную ChatGPT, «столь же революционной, как мобильные телефоны и Интернет». Он считает, что рост ИИ призван улучшить человечество, повысить производительность, уменьшить неравенство во всем мире и ускорить разработку новых вакцин. В своей простейшей форме эта технология сочетает в себе информатику и надежные наборы данных для решения проблем. Это позволяет машинам учиться на собственном опыте, приспосабливаться к новым данным и выполнять задачи, подобные человеческим. Системы, которые включают в себя подполя машинного и глубокого обучения, состоят из алгоритмов ИИ, которые стремятся создать экспертные системы, которые делают прогнозы или классификации на основе входных данных.
|
|
|
|
С 1957 по 1974 год ИИ процветал. Компьютеры могли хранить больше информации и стали быстрее, дешевле и доступнее. Алгоритмы машинного обучения также улучшились, и люди стали лучше понимать, какой алгоритм применить к своей проблеме. Теперь, с выпуском ChatGPT в конце прошлого года, его популярность и то, чего он может достичь, свидетельствует о том, насколько быстро развивается эта технология. Чат-бот — это большая языковая модель, обученная на массивных текстовых данных, что позволяет ему генерировать устрашающе похожий на человеческий текст в ответ на данное приглашение. Всего за несколько месяцев он сдал экзамен на адвоката с более высоким баллом, чем 90 процентов людей, которые его сдавали, и достиг 60-процентной точности на экзамене на получение медицинской лицензии в США. Люди также использовали ChatGPT для написания научных статей, книг, новостных статей, электронных писем и другой текстовой работы. Однако, в то время как некоторые видят в чат-боте и ему подобных, таких как Google Bard, виртуального помощника будущего, многие другие опасаются, что это может означать начало конца для человечества. С отставкой доктора Хинтона дебаты, скорее всего, только усилится.
|
|
|
|
Источник
|
