15.01.2025. - Когда появятся сильный ИИ, сопоставимый с человеком

Когда появятся сильный ИИ, сопоставимый с человеком

Чуть больше месяца назад ChatGPT отпраздновал свой второй день рождения, и теперь мы перешли к следующей парадигме моделей, которые могут выполнять сложные логические операции. Новый год настраивает людей на размышления, и я хотел поделиться некоторыми личными соображениями о том, как все прошло до сих пор, и о том, чему я научился за это время.

По мере того, как мы приближаемся к AGI, кажется, настало время оценить прогресс нашей компании. Нам еще многое предстоит понять, мы еще многого не знаем, и пока еще так рано. Но мы знаем гораздо больше, чем когда начинали.

Мы запустили OpenAI почти девять лет назад, потому что верили, что УЧИ возможен и что это может стать самой эффективной технологией в истории человечества. Мы хотели понять, как ее создать и сделать полезной для широкого круга пользователей; мы были рады возможности оставить свой след в истории. Наши амбиции были необычайно высоки, как и наша вера в то, что наша работа может принести не менее выдающуюся пользу обществу.

В то время это мало кого волновало, а если и волновало, то в основном потому, что они думали, что у нас нет шансов на успех.

В 2022 году OpenAI был тихой исследовательской лабораторией, работавшей над чем-то, что временно называлось “Чат с GPT-3.5”. (Мы гораздо лучше разбираемся в исследованиях, чем в названиях). Мы наблюдали за тем, как люди используют функцию playground в нашем API, и знали, что разработчикам действительно нравится общаться с моделью. Мы подумали, что демонстрация этого опыта покажет людям что-то важное о будущем и поможет нам сделать наши модели лучше и безопаснее.

В итоге мы, к счастью, назвали его ChatGPT и запустили 30 ноября 2022 года.

Мы всегда знали, что в какой-то момент наступит переломный момент, и революция в области искусственного интеллекта начнется. Но мы не знали, что это будет за момент. К нашему удивлению, это оказалось так.

Запуск ChatGPT дал толчок росту, подобного которому мы никогда не видели — в нашей компании, в нашей отрасли и в мире в целом. Мы наконец-то видим те огромные возможности, на которые всегда надеялись в области искусственного интеллекта, и можем видеть, насколько больше их будет в ближайшее время.

Это было нелегко. Путь не был гладким, и правильный выбор не был очевиден.

За последние два года нам пришлось практически с нуля создавать целую компанию на основе этой новой технологии. Нет другого способа обучить людей этому, кроме как самим делать это, а когда категория технологий становится совершенно новой, вообще нет никого, кто мог бы точно сказать вам, как это должно быть сделано.

Создание компании с такой высокой скоростью при таком незначительном обучении - это сложный процесс. Часто это два шага вперед, один шаг назад (а иногда один шаг вперед и два шага назад). Ошибки исправляются по ходу игры, но на самом деле, когда вы делаете оригинальную работу, не существует никаких руководств или ориентиров. Скоростное передвижение по неизведанным водам - это невероятный опыт, но в то же время это огромный стресс для всех игроков. Конфликты и недопонимание встречаются повсеместно.

Эти годы были самыми полезными, веселыми, лучшими, интересными, изнурительными, напряженными и — особенно в течение последних двух — неприятными годами в моей жизни. Всепоглощающее чувство - это благодарность; я знаю, что когда-нибудь, выйдя на пенсию, я буду жить на нашем ранчо, наблюдать за ростом растений, немного скучать и вспоминать, как здорово было заниматься работой, о которой я мечтал с детства. Я стараюсь помнить об этом в любую пятницу, когда к часу дня семь дел идут наперекосяк.

Чуть больше года назад, в одну из пятниц, главное, что в тот день пошло не так, это то, что меня неожиданно уволили по видеосвязи, а сразу после того, как мы повесили трубки, правление опубликовало сообщение в блоге об этом. Я был в гостиничном номере в Лас-Вегасе. В какой-то степени это было почти невозможно объяснить, как будто сон пошел наперекосяк.

После того, как меня публично уволили без предупреждения, начались действительно сумасшедшие несколько часов и довольно сумасшедшие дни. “Туман войны” был самой странной частью. Никто из нас не смог получить удовлетворительных ответов о том, что произошло и почему.

Все это мероприятие, на мой взгляд, было большим провалом в управлении со стороны людей, действовавших из лучших побуждений, включая меня самого. Оглядываясь назад, я, конечно, жалею, что не поступил по-другому, и мне хотелось бы верить, что сегодня я лучший, более вдумчивый руководитель, чем год назад.

Я также осознал важность наличия совета директоров с различными точками зрения и богатым опытом в решении сложных задач. Эффективное управление требует большого доверия и достоверности. Я ценю то, как много людей работали вместе над созданием более эффективной системы управления OpenAI, которая позволяет нам выполнять нашу миссию по обеспечению того, чтобы AGI приносила пользу всему человечеству.

Мой самый большой вывод заключается в том, за что я должен быть благодарен и скольким людям я должен быть благодарен: всем, кто работает в OpenAI и решил потратить свое время и усилия на осуществление этой мечты, друзьям, которые помогли нам пережить кризисные моменты, нашим партнерам и клиентам, которые поддержали нас и доверили нам способствовать их успеху, а также людям в моей жизни, которые показали мне, как сильно они заботятся обо мне. [1]

Мы все вернулись к работе более сплоченными и позитивными, и я очень горжусь тем, что с тех пор мы сосредоточились на этом. Мы провели одно из наших лучших исследований за всю историю. Мы выросли с примерно 100 миллионов активных пользователей в неделю до более чем 300 миллионов. Но самое главное, мы продолжаем внедрять в мир технологии, которые, похоже, искренне нравятся людям и которые решают реальные проблемы.

Девять лет назад мы действительно понятия не имели, кем мы в конечном итоге станем; даже сейчас мы знаем об этом лишь отчасти. Разработка искусственного интеллекта прошла много этапов, и мы ожидаем большего в будущем.

Некоторые повороты были радостными, некоторые - трудными. Было забавно наблюдать за непрерывным потоком научных чудес, и многие скептики становились настоящими верующими. Мы также видели, как некоторые коллеги отделились и стали конкурентами. Команды, как правило, меняются по мере масштабирования, а OpenAI масштабируется очень быстро. Я думаю, что отчасти это неизбежно — стартапы обычно сталкиваются с большой текучестью кадров на каждом новом крупном уровне, а в OpenAI показатели растут на порядки каждые несколько месяцев. Последние два года в обычной компании были похожи на десятилетие. Когда любая компания растет и развивается так быстро, интересы, естественно, расходятся. И когда какая-либо компания в важной отрасли занимает лидирующие позиции, многие люди нападают на нее по самым разным причинам, особенно когда они пытаются конкурировать с ней.

Наше видение не изменится; наша тактика будет продолжать развиваться. Например, когда мы начинали, мы понятия не имели, что нам придется создавать компанию по производству продуктов; мы думали, что просто проведем отличное исследование. Мы также понятия не имели, что нам понадобится такой сумасшедший объем капитала. Сейчас нам нужно создать что-то новое, чего мы не понимали несколько лет назад, и в будущем появятся новые вещи, которые мы едва можем себе представить сейчас.

Мы гордимся нашим опытом в области исследований и внедрения на сегодняшний день и намерены продолжать совершенствовать наши подходы к обеспечению безопасности и совместному использованию выгод. Мы по-прежнему считаем, что лучший способ сделать систему искусственного интеллекта безопасной - это последовательно и постепенно внедрять ее в мир, давая обществу время адаптироваться и развиваться вместе с технологией, перенимая опыт и продолжая делать технологию более безопасной. Мы верим в важность того, чтобы быть мировыми лидерами в области исследований в области безопасности и центровки, а также в то, чтобы направлять эти исследования с учетом результатов реальных применений.

Теперь мы уверены, что знаем, как создать AGI в традиционном понимании. Мы считаем, что в 2025 году мы можем увидеть, как первые агенты искусственного интеллекта “вольются в ряды рабочей силы” и существенно изменят результаты деятельности компаний. Мы по-прежнему верим, что последовательное предоставление отличных инструментов в руки людей приводит к отличным, широко распространенным результатам.

Мы начинаем стремиться к большему, к сверхразуму в истинном смысле этого слова. Нам нравятся наши нынешние продукты, но мы стремимся к славному будущему. Обладая сверхразумом, мы можем делать все, что угодно. Сверхразумные инструменты могли бы значительно ускорить научные открытия и инновации, значительно превосходящие то, что мы способны сделать сами, и, в свою очередь, значительно увеличить изобилие и процветание.

Сейчас это звучит как научная фантастика, и даже говорить об этом как-то безумно. Все в порядке — мы уже были там раньше и не против оказаться там снова. Мы уверены, что в ближайшие несколько лет все увидят то же, что и мы, и что очень важно действовать с большой осторожностью, одновременно извлекая максимальную выгоду и расширяя возможности пользователей. Учитывая возможности нашей работы, OpenAI не может быть обычной компанией.

Какая это удача и смирение - иметь возможность сыграть свою роль в этой работе.

Источник