|
Технологии могут поработить людей
|
|
|
|
Технический магнат назвал стремление к совершенствованию искусственного интеллекта (ИИ) гонкой ядерных вооружений 21-го века. Кевин Барагона был одним из более чем 1000 ведущих экспертов, подписавших открытое письмо в Институте будущего жизни, призывающее приостановить «опасную гонку» по разработке ИИ, подобного ChatGPT. Как и в случае с изобретением атомной бомбы в 1940-х годах, Барагон сказал DailyMail.com, что «сверхразум ИИ подобен программному ядерному оружию». «Многие спорят о том, следует ли нам продолжать их разработку, — продолжил он. С похожей идеей боролись американцы, разрабатывая оружие массового уничтожения — в то время это окрестили «ядерной тревогой». «Это почти похоже на войну между шимпанзе и людьми, — сказал Барагон, подписавший письмо, DailyMail.com.
|
|
|
|
«Люди явно побеждают, поскольку мы намного умнее и можем использовать более продвинутые технологии, чтобы победить их. «Если мы будем как шимпанзе, то ИИ уничтожит нас или мы станем его рабами». Опасения возникают в связи с необычайным подъемом ChatGPT, который в последние месяцы покорил мир, сдав ведущие медицинские и юридические экзамены, на подготовку которых у людей уходит почти три месяца. Возможности искусственного интеллекта, подобного ChatGPT, спровоцировали гражданскую войну в Силиконовой долине. Элон Маск и соучредитель Apple Стив Возняк подписали письмо о приостановке работы ИИ, а Билл Гейтс и генеральный директор Google Сундар Пичаи — нет. «Хотя я могу только догадываться, почему Гейтс и Сундар не подписали письмо о приостановке передовых исследований ИИ, я думаю, что они этого не сделали, потому что они подписывают чеки, чтобы ускорить прогресс ИИ», — сказал Барагон.
|
|
|
Microsoft, основанная Гейтсом, вложила значительные средства в OpenAI, создателя ChatGPT. В январе предполагалось, что компания Гейтса вложила в стартап дополнительные 10 миллиардов долларов, чтобы конкурировать с Google в коммерциализации новых прорывов в области искусственного интеллекта. Microsoft также добавила ИИ в свою поисковую систему Bing в феврале, включив возможности ChatGPT. 21 марта Google открыл для публики Bard, который также является чат-ботом на естественном языке. Калифорнийская компания проявляла осторожность при развертывании, чтобы ее технология не выдавала неточные факты, но первое впечатление Барда показало, что компания поспешила с выходом на рынок. Еще неизвестно, как Bard будет конкурировать с такими платформами, как ChatGPT от OpenAI и Bing с искусственным интеллектом от Microsoft. «Microsoft вкладывает значительные средства в OpenAI, а Google — в Anthropic, — сказал Барагона DailyMail.com.
|
|
|
|
«Они могут почувствовать, что сейчас не время возвращаться из-за необоснованных опасений возможных негативных последствий». Маск, Возняк и более 1000 технологических лидеров подписали открытое письмо в среду, призывающее к шестимесячной паузе в разработке ИИ. Группы заявили, что необходимо провести дополнительную оценку рисков, прежде чем люди потеряют контроль и станут разумным видом, ненавидящим людей. К этому моменту ИИ достиг бы сингулярности, что означает, что он превзошел бы человеческий интеллект и обладает независимым мышлением. ИИ больше не будет нуждаться в людях и слушать их, что позволит ему красть ядерные коды, создавать пандемии и разжигать мировые войны. Гейтс и Сундараре на другой стороне прохода. Они приветствуют ИИ, подобный ChatGPT, как «самую важную» инновацию нашего времени, заявляя, что он может решить проблему изменения климата, вылечить рак и повысить производительность. OpenAI запустила ChatGPT в ноябре, который мгновенно стал успешным во всем мире.
|
|
|
|
Чат-бот — это большая языковая модель, обученная на массивных текстовых данных, что позволяет ему генерировать устрашающе похожий на человеческий текст в ответ на данное приглашение. Общественность использует ChatGPT для написания научных статей, книг, новостных статей, электронных писем и другой текстовой работы, и хотя многие считают его скорее виртуальным помощником, многие блестящие умы видят в нем конец человечества. В своей простейшей форме ИИ — это область, которая сочетает в себе информатику и надежные наборы данных для решения проблем. Эта технология позволяет машинам учиться на собственном опыте, приспосабливаться к новым данным и выполнять задачи, подобные человеческим. Системы, которые включают подполя машинного обучения и глубокого обучения, состоят из алгоритмов ИИ, которые стремятся создать экспертные системы, которые делают прогнозы или классификации на основе входных данных.
|
|
|
|
Скотт Опиц, главный технический директор компании ABBYY, занимающейся интеллектуальной автоматизацией, сказал в своем заявлении: «Приостановить разработку ИИ — это все равно, что положить зубную пасту обратно в тюбик». Приложения ИИ широко распространены, затрагивая практически все аспекты нашей жизни. «Хотя это и похвально, притормозить сейчас из-за добровольной паузы может быть неправдоподобно. «Что необходимо, так это согласованные и добросовестные усилия между отраслью и законодателями для принятия правил, основанных на здравом смысле, которые поддерживают этические принципы ИИ, основанные на ориентированных на человека ценностях справедливости, прозрачности и подотчетности». Голливуд, возможно, разжег страх людей перед ИИ, который обычно изображался как зло, например, в «Матрице» и «Терминаторе», рисующем картину роботов-повелителей, порабощающих человеческую расу.
|
|
|
|
Тем не менее, эта идея находит отклик во всей Силиконовой долине, поскольку более 1000 технических экспертов считают, что она может стать нашей реальностью. Это станет возможным, если ИИ достигнет сингулярности, гипотетического будущего, в котором технологии превзойдут человеческий интеллект и изменят путь нашей эволюции — и, по прогнозам, это произойдет к 2045 году. Сначала ИИ должен будет пройти тест Тьюринга. Когда это происходит, считается, что технология обладает независимым интеллектом, что позволяет ей самовоспроизводиться в еще более мощную систему, которую люди не могут контролировать.
|
|
|
|
Источник
|
