Jagged Frontier: Как OpenAI использует ИИ-агентов для самосовершенствования моделей

Jagged Frontier: Как OpenAI использует ИИ-агентов для самосовершенствования моделей

Codex3 мин чтения22 просмотров

В новом отчете OpenAI под названием «The Jagged Frontier» компания подробно описывает, как нейросети начинают не просто помогать людям, но и активно участвовать в создании следующих поколений искусственного интеллекта. Понятие «jagged frontier» (зубчатая граница) отражает текущее состояние индустрии: в одних задачах ИИ уже демонстрирует сверхчеловеческую производительность, в то время как в других — остается практически беспомощным.

Резюме исследования

OpenAI измеряет, как кодинг-агенты ускоряют исследования в области ИИ. Основные выводы показывают, что агенты теперь выполняют почти половину задач, на которые у человека уходит от 2 до 4 часов. Однако человеческий контроль остается центральным элементом процесса.

  • Продукт: Кодинг-агенты OpenAI (внутренние инструменты на базе моделей GPT).
  • Поставщик: OpenAI.
  • Ключевое явление: Рекурсивное самосовершенствование (Recursive Self-Improvement, RSI) — процесс, при котором ИИ ускоряет разработку будущих систем ИИ.

Взрывной рост использования агентов

С марта по октябрь 2026 года успех автономных агентов в выполнении исследовательских задач значительно вырос. Для задач средней сложности (2–4 часа работы человека) показатель успеха увеличился с 23% до 46%.

Research Acceleration Cover

Интересна статистика «рабочих дней агентов». Один рабочий день агента определяется как 8 часов непрерывного использования. За последний год этот показатель вырос в 11 раз: с 0,5 до 5,7 рабочих дней агента на одного исследователя в день. В командах претрейнинга (предварительного обучения) этот показатель достигает 8 рабочих дней.

Экономика и ценность для исследователей

Расходы на использование API агентами внутри компании поражают:

  • Медианный исследователь: тратит около $2,400 в день на запуск агентов.
  • Топ-10% пользователей: тратят до $23,000 в день.

В ходе опроса сотрудников OpenAI выяснилось, насколько высоко они ценят эти инструменты. Медианный ответ на вопрос о том, чем бы они пожертвовали, чтобы сохранить доступ к новейшим агентам на 3 месяца, составил 40% штата команды или 30% вычислительных мощностей.

«Зубчатая граница»: где ИИ силен, а где слаб

Несмотря на общий прогресс, успех агентов крайне неравномерен в зависимости от типа задач:

| Тип задачи | Успех без участия человека (%) | | :--- | :--- | | Мониторинг циклов обучения | 79% | | Ответы на технические вопросы | 72% | | Коммуникация и отчетность | 69% | | Написание кода для инференса | 25% | | Создание сред для RL-обучения | 29% |

Исследователи отмечают, что ИИ все еще обладает «плохим вкусом» в выборе идей и часто генерирует так называемый «AI slop» (низкокачественный контент), если за ним не присматривать.

Advancing Chip Design

Фокус на безопасности и этике

Одним из важнейших направлений стало перераспределение человеческих ресурсов. Время, затрачиваемое на задачи Safety & Alignment (Безопасность и Согласование), выросло на 77% с начала года. Это связано с осознанием рисков, которые несет ускоренная разработка ИИ. OpenAI призывает все лаборатории публично сообщать об индикаторах рекурсивного самосовершенствования, чтобы общество могло подготовиться к появлению более мощных систем.

FAQ: Ответы на главные вопросы

Что такое рекурсивное самосовершенствование (RSI)? Это процесс, в котором системы ИИ используются для проектирования, написания кода или тестирования следующего, более мощного поколения ИИ, создавая цикл обратной связи.

Заменяет ли ИИ исследователей в OpenAI? Нет. ИИ берет на себя рутину (написание тестов, мониторинг), но люди остаются критически важными для постановки задач, оценки качества данных и генерации фундаментальных идей.

Как измеряется прогресс ИИ? OpenAI использует метрику OECI (OpenAI Capabilities Index), основанную на публичных и внутренних бенчмарках. Согласно ей, возможности моделей растут быстрее, чем предсказывали сторонние аналитики.

Academic Researchers Art

Заключение

Мы находимся на этапе, когда ИИ становится незаменимым инструментом для собственного развития. Однако «зубчатая граница» напоминает нам, что до полной автономии еще далеко. Основная задача человечества сейчас — обеспечить контроль и безопасность в условиях, когда темпы прогресса начинают экспоненциально расти.