Reuters узнал об опасном открытии OpenAI перед увольнением Сэма Альтмана

Увольнению Сэма Альтмана из OpenAI предшествовало письмо, в котором исследователи компании предупредили совет директоров о потенциально опасном для человечества прорыве в области искусственного интеллекта, узнал Reuters. Речь могла идти о проекте Q* — новой модели, способной решать математические задачи. Незадолго до своей отставки Альтман говорил о четырех крупных открытиях в истории OpenAI, последнее из которых произошло «за последние пару недель».


Накануне увольнения Сэма Альтмана из OpenAI совет директоров компании получил письмо от штатных исследователей с предупреждением о прорыве в сфере искусственного интеллекта (ИИ), который потенциально «мог угрожать человечеству». Об этом пишет Reuters со ссылкой на два осведомленных источника.


По их словам, письмо стало один из факторов в длинном списке претензий совета директоров, приведших к отставке Альтмана, среди которых также были опасения из-за стремления коммерциализировать достижения в сфере ИИ до понимания их последствий. В OpenAI от комментариев отказались.

По данным Reuters, речь в письме могла идти о проекте Q* (произносится как Q-Star) — новой модели, которая научилась решать математические задачи на уровне учеников начальной школы. Сейчас генеративный ИИ хорошо справляется с написанием текста, статистически предсказывая следующее слово в предложении, но решение математических задач, у которых может быть только один ответ, требует более широких способностей к рассуждению, напоминающих человеческий интеллект, поясняет агентство.

Его источники отметили, что Q* может стать прорывом на пути к общему искусственному интеллекту (artificial general intelligence, AGI). OpenAI определяет AGI как автономную систему, превосходящую человека в решении большинства экономически ценных задач, пишет Reuters.

О важном открытии OpenAI ранее рассказывал и сам Альтман. Выступая на саммите Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Сан-Франциско, топ-менеджер заявил, что в истории компании было четыре важных момента, когда ей удалось «отодвинуть завесу невежества». «Последний раз это было буквально за последние пару недель, и я при этом присутствовал», — поделился Альтман.

На следующий день, 17 ноября, совет директоров OpenAI объявил о его увольнении. Свое решение совет объяснил тем, что топ-менеджер «не всегда был откровенен» с правлением. В чем именно это проявлялось, в OpenAI не пояснили.

Однако спустя пять дней стало известно, что Альтман вернется на пост гендиректора компании, а совет будет распущен. Этого, в частности, требовали более 700 сотрудников OpenAI, подписавших коллективное письмо с угрозой уйти из компании.

На возвращении Альтмана настаивали и инвесторы OpenAI. Крупнейший из них — компания Microsoft, инвестировавшая в стартап $10 млрд. Гендиректор Microsoft Сатья Наделла заявил, что корпорация довольна изменениями в совете директоров OpenAI, назвав это «первым важным шагом на пути к более стабильному, хорошо информированному и эффективному управлению».