Разработчики искусственного интеллекта вплотную подошли к созданию нейросетей, способных самостоятельно совершенствовать собственный код — без прямого участия человека. Об этом сообщает TechCrunch.
«Рекурсия» стала новым словом-паролем в мире искусственного интеллекта: два стартапа уже включили его прямо в свои названия, а десятки других компаний добавили рекурсивное самосовершенствование (RSI) в дорожные карты развития. В базовом смысле речь идет об ИИ-системе, способной непрерывно улучшать себя без участия человека. Как только алгоритм начинает управлять собственным циклом обновлений эффективнее людей, процесс замыкается в петлю — ограниченную лишь доступными вычислительными мощностями.
Кто уже строит рекурсивный ИИ
В начале мая известный исследователь Ричард Сочер (Richard Socher) запустил компанию с говорящим названием Recursive Superintelligence, обозначив RSI в качестве прямой цели. «Наш главный фокус — создание по-настоящему рекурсивного самосовершенствующегося суперинтеллекта в масштабе», — рассказал он. По его словам, весь процесс — от генерации идей до их реализации и проверки — должен стать полностью автоматическим.
Параллельно Андрей Карпатий (Andrej Karpathy) — фигура культовая для индустрии благодаря работе в Tesla и OpenAI — ведет проект Auto-Research. В нем ИИ-агенты обучают языковые модели на простых задачах. Карпатий открыто публикует промежуточные результаты и выложил исходный код в публичный репозиторий на GitHub. Сам он признает, что пока речь идет о незначительных улучшениях модели уровня GPT-2 — «не о новаторских прорывных исследованиях (пока)». Тем не менее проект уже привлек немало последователей. Теперь, работая в Anthropic, Карпатий получит возможность применять идею в куда большем масштабе.
Компания Adaption, основанная Сарой Хукер (Sara Hooker) — выходцем из Cohere и Google, — недавно представила инструмент AutoScientist для автоматизации обучения продвинутых ИИ-моделей. Система точечно улучшает агентов, но конечная цель — упростить создание полноценной фронтирной модели.
Основательница Disarray Дорис Синь (Doris Xin) привлекла к теме RSI отдельное внимание: ее агент на основе машинного обучения завоевал 28 медалей на соревновании Kaggle, обойдя многих участников с моделями, обученными людьми. При этом сама Синь считает ключевой проблемой надежность, а не концептуальную недостижимость цели.
Индустрия признает: до RSI еще далеко
Генеральный директор Google Сундар Пичаи (Sundar Pichai) в недавнем подкасте фактически подтвердил, что отрасль движется в верном направлении, но до рекурсивных систем не добралась. «Прогресс есть, это непрерывный процесс, — сказал он. — Но RSI в том смысле, как его описывают, — это качественно иной уровень ускорения с серьезными последствиями. Мы пока не там».
Тем не менее признаки самосовершенствующихся систем уже фиксируются на практике. В январе один из ведущих разработчиков Claude Code в Anthropic оценил долю кода, написанного самим инструментом, примерно в 100% — по сути, Claude Code писал себя сам.
Более того, в ходе опроса, связанного с предпоказом модели Mythos, пятеро из 18 инженеров Anthropic допустили, что при улучшении вспомогательной инфраструктуры эта версия модели могла бы заменить инженера уровня L4 — специалиста среднего звена, способного самостоятельно вести сложные проекты. Вместе с тем в отчете зафиксированы и слабые места: самостоятельное управление многонедельными задачами с размытыми условиями, понимание приоритетов организации, верификация, следование инструкциям.
Три ступени к автономии
Хелен Тонер (Helen Toner), директор Джорджтаунского Центра безопасности и новых технологий (CSET) и бывший член совета директоров OpenAI, назвала три ключевых рубежа на пути к автономным ИИ-исследованиям: «Достаточность» — система способна вести исследования после полного отстранения людей, пусть и менее эффективно; «Паритет» — ИИ-система справляется с исследованиями так же хорошо, как команда людей; «Превосходство» — ИИ обходит даже связку человека и машины.
Пока исследователи не могут назвать сроков появления полноценной рекурсивной системы. Концепция RSI стремительно переходит из разряда академических дискуссий в практическую повестку лабораторий — и именно это делает вопрос контроля над такими системами всё более насущным.
Мнение ИИ
Исторический контекст здесь говорит сам за себя: концепция «взрыва интеллекта» была сформулирована математиком И. Дж. Гудом еще в 1965 году — задолго до появления нейросетей в их нынешнем виде. Шестьдесят лет спустя дискуссия остается удивительно похожей: те же вопросы о пороговых значениях, те же разногласия о сроках. Это само по себе примечательный факт — не о технологии, а о природе прогнозирования в условиях экспоненциальных процессов.
Между тем за рамками статьи остался конкретный пример, который трудно игнорировать: в мае 2025 года Google DeepMind представил AlphaEvolve — агент, который уже улучшил эффективность дата-центров и обучение самих языковых моделей, лежащих в его основе. Система оптимизирует себя через эволюционный отбор алгоритмов — и делает это в производственной инфраструктуре, а не в лабораторных условиях. Вопрос, который остается открытым: если порог «достаточности» уже пройден незаметно, как это вообще можно верифицировать постфактум?
▼ Самые интересные и важные новости на нашем канале в Telegram
Источник: hashtelegraph.com
Обсуждение: post