Сэм Альтман признает существование секретной системы ИИ
Сэм Альтман, похоже, подтвердил теорию, что его уволили из OpenAI из-за сверхмощной и секретной новой системы искусственного интеллекта, которую он помогал создавать. Сообщается, что несколько сотрудников предупредили совет директоров компании, что этот проект под названием Q* (произносится как «Q звезда») становится настолько продвинутым, что уже может сдавать экзамены по математике и выполнять задачи критического мышления. И они чувствовали, что Альтман не воспринял их предупреждения всерьез. В интервью на этой неделе Альтман не отрицал существование секретной программы, которая, по словам некоторых сотрудников, стала причиной его увольнения. Вместо этого он назвал разоблачение Q* «досадной утечкой». Альтман был уволен, затем нанят инвестором OpenAI Microsoft, а затем повторно принят на работу в OpenAI, которая также дала толчок большей части совета директоров, уволившей Альтмана, в течение всего лишь пяти дней в ноябре. Когда в интервью The Verge ему задали вопросы о Q*, у него была возможность отрицать существование этой программы. Общественность узнала о существовании Q* из недавней статьи агентства Reuters, в котором также были отражены некоторые опасения, высказанные в предупреждающем письме сотрудников совету директоров.
Но эта новость касалась только Q* и содержания письма в общих чертах, поскольку репортеры Reuters не просматривали письмо. При всей этой неопределенности Альтман имел все возможности отрицать существование Q* и отвергать его как необоснованный слух. Вместо этого он, казалось, подтвердил это. «Никаких особых комментариев по поводу этой злосчастной утечки», — сказал он. «Но то, что мы говорили – две недели назад, то, что мы говорим сегодня, то, что мы говорили год назад, то, что мы говорили ранее – это то, что мы ожидаем, что прогресс в этой технологии будет продолжать быть быстрым, а также что мы рассчитывайте на то, что нам придется продолжать очень усердно работать, чтобы выяснить, как сделать это безопасным и полезным». Люди, работающие в области искусственного интеллекта, предупреждают, что как только ученые-компьютерщики добьются создания общего искусственного интеллекта (AGI), он может стать более мощным, чем люди смогут с ним справиться. Они могли бы даже рассматривать людей как угрозу, которую необходимо устранить, привлекая Интернет и компьютерную инфраструктуру для реализации плана конца света.
Подобные опасения согласуются с предсказаниями экспертов о том, что однажды ИИ достигнет точки, известной как сингулярность, когда технологии станут более мощными и интеллектуальными, чем люди могут конкурировать, изменив ход нашей эволюции. Бывший инженер Google Рэй Курцвейл однажды предсказал, что сингулярность наступит к 2045 году. В апреле более 25 000 человек подписали открытое письмо с призывом к шестимесячной паузе в исследованиях ИИ. Тогда Альтман заявил, что согласен с призывами к осторожности, но не согласен с «техническими нюансами», содержащимися в открытом письме. Он не подписал его. В сообщениях утверждается, что несколько сотрудников написали письмо совету директоров OpenAI до того, как Альтмана уволили из OpenAI. Утверждается, что в письме подробно описывается, как компания Альтмана работала над новыми открытиями в области искусственного интеллекта, которые были опасны, а также серьезные риски, связанные с коммерциализацией технологий, потенциальные последствия которых компания еще не осознавала. Агентство Reuters сообщило, что Q* является одной из причин увольнения Альтмана из OpenAI из-за расширенных возможностей новой системы.
Источники сообщили, что Q* уже успешно справляется с тестами по математике, в то время как последняя версия ChatGPT, GPT-4, все еще плохо справляется со школьными экзаменами. GPT-4 был запущен в марте, что дало ему время для продвижения, а Q* еще не подтвержден. Источники также утверждали, что Q* может использовать нелинейные методы, такие как «дерево мыслей», поиск по дереву Монте-Карло (MCTS), модели вознаграждения под контролем процесса (PRM) и алгоритм обучения. Однако сотрудники OpenAI считают, что Q* может стать прорывом, который позволит развивать AGI. OpenAI определил AGI как «системы искусственного интеллекта, которые, как правило, умнее людей». На этой неделе, когда в интервью The Verge его спросили, почему его уволили, Альтман промолчал, перенаправив вопросы членам правления OpenAI, которые не давали интервью. На момент публикации этой статьи OpenAI не ответила на комментарий DailyMail.com.
