Технари изобрели версию смертоносного Скайнета Терминатора, который может по-настоящему уничтожить человечество. Сотрудники Open AI предупредили совет директоров о мощном прорыве в области искусственного интеллекта, который может представлять угрозу для человечества, прежде чем главный исполнительный директор Сэм Альтман был уволен, а затем вновь принят на работу. Несколько исследователей направили письмо директорам, предупреждая, что прогресс, достигнутый в проекте Q, может поставить под угрозу человечество. Письмо в конечном итоге привело к отстранению Альтмана — создателя ChatGPT — и пятидневному хаосу внутри компании. Альтман добился прогресса в разработке Q, что, по мнению некоторых внутренних источников, может стать прорывом в поисках сверхразума. Компания определяет сверхинтеллект, также известный как общий искусственный интеллект, как системы искусственного интеллекта, которые умнее людей. В сериале «Терминатор» вымышленная сверхразумная сеть искусственного интеллекта Скайнет обрела самосознание и начала ядерную атаку после того, как люди попытались ее деактивировать.
Главный технический директор OpenAI Мира Мурати, занявшая пост временного генерального директора после увольнения Альтмана, сообщила сотрудникам, что до переезда в совет директоров было отправлено письмо, и упомянула вопрос. Источники назвали это письмо одним из ряда факторов, приведших к его увольнению. Альтман, OpenAI и исследователи, написавшие письмо, не прокомментировали его. Новость об этом письме появилась после того, как глава SpaceX, Tesla и X (ранее известный как Twitter) Илон Маск разместил в Интернете еще одно письмо, в котором Альтмана и его соучредителя Грега Брокмана не обвиняют в создании враждебной рабочей среды. В письме, предположительно написанном бывшими сотрудниками OpenAI, подробно описывается «нечестное» и «манипулятивное» руководство. Его авторы утверждали, что значительное количество сотрудников OpenAI были уволены из компании, чтобы облегчить ее переход к коммерческой модели. «Однако их методы вызвали серьезные сомнения относительно их истинных намерений и того, насколько они действительно ставят во главу угла благо человечества», — говорится в письме.
Он обвинил сотрудников, которые остались в OpenAI, в том, что они «слепо» следуют руководству Альтмана и Брокмана «даже ценой значительных личных затрат». Эта непоколебимая лояльность проистекает из сочетания страха возмездия и привлекательности потенциальных финансовых выгод через подразделения OpenAI по участию в прибылях. Письмо заканчивалось просьбой к недавно назначенному совету директоров занять твердую позицию против этих неэтичных действий и начать независимое расследование поведения Сэма и Грега». "Будущее искусственного интеллекта и благополучие человечества зависят от вашей непоколебимой приверженности этическому лидерству и прозрачности", - добавил он. Маск, который несколько лет назад поссорился с Альтманом по поводу руководства компании, написал: "Эти кажутся проблемами, заслуживающими расследования». Когда 38-летний Альтман был уволен в минувшие выходные, 747 из 770 сотрудников компании пригрозили уйти и последовать за своим лидером в Microsoft, где он в то время возглавлял. Пять дней спустя он вернулся генеральным директором OpenAI.
Альтман написал в Твиттере: «Я люблю OpenAI, и все, что я делал за последние несколько дней, было направлено на сохранение единства этой команды и ее миссии». Председатель правления и главный исполнительный директор Microsoft Сатья Наделла сказал, что изменения в совете директоров OpenAI привели к к возвращению Альтмана. «Мы считаем, что это первый важный шаг на пути к более стабильному, хорошо информированному и эффективному управлению», — сказал он. «Сэм, Грег и я поговорили и согласились, что они должны сыграть ключевую роль вместе с Руководящая команда OAI обеспечивает дальнейшее процветание OAI и реализацию своей миссии. «Мы с нетерпением ждем возможности развивать наше прочное партнерство и предоставлять ценность этого следующего поколения ИИ нашим клиентам и партнерам». OpenAI подтвердила, что Альтман вернулся, и компания назначила новый первоначальный совет директоров. Основан Альтманом и еще 10 другими - включая Маска - в 2015 году OpenAI выпустила ChatGPT. Его способность имитировать человеческое письмо поляризовала политиков, общественность и остальную часть индустрии искусственного интеллекта.
Маск, который был вынужден уйти после неудачной попытки взять под контроль компанию, с тех пор критиковал ИИ как «пробуждённый» и утверждал, что он отклоняется от первоначальной некоммерческой миссии OpenAI. В феврале миллиардер написал в Твиттере: «OpenAI была создана как некоммерческая компания с открытым исходным кодом (именно поэтому я назвал ее «Открытый AI»), призванная служить противовесом Google, но теперь она стала максимально закрытой». прибыльная компания, фактически контролируемая Microsoft». Он подписал письмо, призывающее приостановить «опасную гонку» по разработке ИИ, которая, как он опасается, представляет «серьезный риск для общества и человечества» и может иметь «катастрофические» последствия. Руководители OpenAI заявили, что верят в ответственное создание и использование этих систем искусственного интеллекта».
