|
Когда появятся сильный ИИ, сопоставимый с человеком
|
|
|
|
Чуть больше месяца назад ChatGPT отпраздновал свой второй день рождения, и теперь мы перешли к следующей парадигме моделей, которые могут выполнять сложные логические операции. Новый год настраивает людей на размышления, и я хотел поделиться некоторыми личными соображениями о том, как все прошло до сих пор, и о том, чему я научился за это время.
|
|
|
|
По мере того, как мы приближаемся к AGI, кажется, настало время оценить прогресс нашей компании. Нам еще многое предстоит понять, мы еще многого не знаем, и пока еще так рано. Но мы знаем гораздо больше, чем когда начинали.
|
|
|
|
Мы запустили OpenAI почти девять лет назад, потому что верили, что УЧИ возможен и что это может стать самой эффективной технологией в истории человечества. Мы хотели понять, как ее создать и сделать полезной для широкого круга пользователей; мы были рады возможности оставить свой след в истории. Наши амбиции были необычайно высоки, как и наша вера в то, что наша работа может принести не менее выдающуюся пользу обществу.
|
|
|
|
В то время это мало кого волновало, а если и волновало, то в основном потому, что они думали, что у нас нет шансов на успех.
|
|
|
|
|
|
|
В 2022 году OpenAI был тихой исследовательской лабораторией, работавшей над чем-то, что временно называлось “Чат с GPT-3.5”. (Мы гораздо лучше разбираемся в исследованиях, чем в названиях). Мы наблюдали за тем, как люди используют функцию playground в нашем API, и знали, что разработчикам действительно нравится общаться с моделью. Мы подумали, что демонстрация этого опыта покажет людям что-то важное о будущем и поможет нам сделать наши модели лучше и безопаснее.
|
|
|
|
В итоге мы, к счастью, назвали его ChatGPT и запустили 30 ноября 2022 года.
|
|
|
|
Мы всегда знали, что в какой-то момент наступит переломный момент, и революция в области искусственного интеллекта начнется. Но мы не знали, что это будет за момент. К нашему удивлению, это оказалось так.
|
|
|
|
Запуск ChatGPT дал толчок росту, подобного которому мы никогда не видели — в нашей компании, в нашей отрасли и в мире в целом. Мы наконец-то видим те огромные возможности, на которые всегда надеялись в области искусственного интеллекта, и можем видеть, насколько больше их будет в ближайшее время.
|
|
|
|
Это было нелегко. Путь не был гладким, и правильный выбор не был очевиден.
|
|
|
|
За последние два года нам пришлось практически с нуля создавать целую компанию на основе этой новой технологии. Нет другого способа обучить людей этому, кроме как самим делать это, а когда категория технологий становится совершенно новой, вообще нет никого, кто мог бы точно сказать вам, как это должно быть сделано.
|
|
|
|
Создание компании с такой высокой скоростью при таком незначительном обучении - это сложный процесс. Часто это два шага вперед, один шаг назад (а иногда один шаг вперед и два шага назад). Ошибки исправляются по ходу игры, но на самом деле, когда вы делаете оригинальную работу, не существует никаких руководств или ориентиров. Скоростное передвижение по неизведанным водам - это невероятный опыт, но в то же время это огромный стресс для всех игроков. Конфликты и недопонимание встречаются повсеместно.
|
|
|
|
Эти годы были самыми полезными, веселыми, лучшими, интересными, изнурительными, напряженными и — особенно в течение последних двух — неприятными годами в моей жизни. Всепоглощающее чувство - это благодарность; я знаю, что когда-нибудь, выйдя на пенсию, я буду жить на нашем ранчо, наблюдать за ростом растений, немного скучать и вспоминать, как здорово было заниматься работой, о которой я мечтал с детства. Я стараюсь помнить об этом в любую пятницу, когда к часу дня семь дел идут наперекосяк.
|
|
|
|
Чуть больше года назад, в одну из пятниц, главное, что в тот день пошло не так, это то, что меня неожиданно уволили по видеосвязи, а сразу после того, как мы повесили трубки, правление опубликовало сообщение в блоге об этом. Я был в гостиничном номере в Лас-Вегасе. В какой-то степени это было почти невозможно объяснить, как будто сон пошел наперекосяк.
|
|
|
|
После того, как меня публично уволили без предупреждения, начались действительно сумасшедшие несколько часов и довольно сумасшедшие дни. “Туман войны” был самой странной частью. Никто из нас не смог получить удовлетворительных ответов о том, что произошло и почему.
|
|
|
|
Все это мероприятие, на мой взгляд, было большим провалом в управлении со стороны людей, действовавших из лучших побуждений, включая меня самого. Оглядываясь назад, я, конечно, жалею, что не поступил по-другому, и мне хотелось бы верить, что сегодня я лучший, более вдумчивый руководитель, чем год назад.
|
|
|
|
Я также осознал важность наличия совета директоров с различными точками зрения и богатым опытом в решении сложных задач. Эффективное управление требует большого доверия и достоверности. Я ценю то, как много людей работали вместе над созданием более эффективной системы управления OpenAI, которая позволяет нам выполнять нашу миссию по обеспечению того, чтобы AGI приносила пользу всему человечеству.
|
|
|
|
Мой самый большой вывод заключается в том, за что я должен быть благодарен и скольким людям я должен быть благодарен: всем, кто работает в OpenAI и решил потратить свое время и усилия на осуществление этой мечты, друзьям, которые помогли нам пережить кризисные моменты, нашим партнерам и клиентам, которые поддержали нас и доверили нам способствовать их успеху, а также людям в моей жизни, которые показали мне, как сильно они заботятся обо мне. [1]
|
|
|
|
Мы все вернулись к работе более сплоченными и позитивными, и я очень горжусь тем, что с тех пор мы сосредоточились на этом. Мы провели одно из наших лучших исследований за всю историю. Мы выросли с примерно 100 миллионов активных пользователей в неделю до более чем 300 миллионов. Но самое главное, мы продолжаем внедрять в мир технологии, которые, похоже, искренне нравятся людям и которые решают реальные проблемы.
|
|
|
|
Девять лет назад мы действительно понятия не имели, кем мы в конечном итоге станем; даже сейчас мы знаем об этом лишь отчасти. Разработка искусственного интеллекта прошла много этапов, и мы ожидаем большего в будущем.
|
|
|
|
Некоторые повороты были радостными, некоторые - трудными. Было забавно наблюдать за непрерывным потоком научных чудес, и многие скептики становились настоящими верующими. Мы также видели, как некоторые коллеги отделились и стали конкурентами. Команды, как правило, меняются по мере масштабирования, а OpenAI масштабируется очень быстро. Я думаю, что отчасти это неизбежно — стартапы обычно сталкиваются с большой текучестью кадров на каждом новом крупном уровне, а в OpenAI показатели растут на порядки каждые несколько месяцев. Последние два года в обычной компании были похожи на десятилетие. Когда любая компания растет и развивается так быстро, интересы, естественно, расходятся. И когда какая-либо компания в важной отрасли занимает лидирующие позиции, многие люди нападают на нее по самым разным причинам, особенно когда они пытаются конкурировать с ней.
|
|
|
|
Наше видение не изменится; наша тактика будет продолжать развиваться. Например, когда мы начинали, мы понятия не имели, что нам придется создавать компанию по производству продуктов; мы думали, что просто проведем отличное исследование. Мы также понятия не имели, что нам понадобится такой сумасшедший объем капитала. Сейчас нам нужно создать что-то новое, чего мы не понимали несколько лет назад, и в будущем появятся новые вещи, которые мы едва можем себе представить сейчас.
|
|
|
|
Мы гордимся нашим опытом в области исследований и внедрения на сегодняшний день и намерены продолжать совершенствовать наши подходы к обеспечению безопасности и совместному использованию выгод. Мы по-прежнему считаем, что лучший способ сделать систему искусственного интеллекта безопасной - это последовательно и постепенно внедрять ее в мир, давая обществу время адаптироваться и развиваться вместе с технологией, перенимая опыт и продолжая делать технологию более безопасной. Мы верим в важность того, чтобы быть мировыми лидерами в области исследований в области безопасности и центровки, а также в то, чтобы направлять эти исследования с учетом результатов реальных применений.
|
|
|
|
Теперь мы уверены, что знаем, как создать AGI в традиционном понимании. Мы считаем, что в 2025 году мы можем увидеть, как первые агенты искусственного интеллекта “вольются в ряды рабочей силы” и существенно изменят результаты деятельности компаний. Мы по-прежнему верим, что последовательное предоставление отличных инструментов в руки людей приводит к отличным, широко распространенным результатам.
|
|
|
|
Мы начинаем стремиться к большему, к сверхразуму в истинном смысле этого слова. Нам нравятся наши нынешние продукты, но мы стремимся к славному будущему. Обладая сверхразумом, мы можем делать все, что угодно. Сверхразумные инструменты могли бы значительно ускорить научные открытия и инновации, значительно превосходящие то, что мы способны сделать сами, и, в свою очередь, значительно увеличить изобилие и процветание.
|
|
|
|
Сейчас это звучит как научная фантастика, и даже говорить об этом как-то безумно. Все в порядке — мы уже были там раньше и не против оказаться там снова. Мы уверены, что в ближайшие несколько лет все увидят то же, что и мы, и что очень важно действовать с большой осторожностью, одновременно извлекая максимальную выгоду и расширяя возможности пользователей. Учитывая возможности нашей работы, OpenAI не может быть обычной компанией.
|
|
|
|
Какая это удача и смирение - иметь возможность сыграть свою роль в этой работе.
|
|
|
|
Источник
|
