Знаете, как выглядит момент, когда создатель начинает бояться своего творения? Кажется, мы его достигли. Одна из ведущих компаний в области искусственного интеллекта, Anthropic, публично призывает мир нажать на тормоза. Не просто так, а с очень конкретными и пугающими цифрами в руках.
Они предлагают создать глобальный механизм «паузы» — возможность коллективно остановить развитие передовых ИИ-систем, если риски станут слишком велики. Представьте себе: архитекторы самого мощного инструмента современности просят спрятать чертежи подальше, пока не стало слишком поздно.
Рекурсивное безумие: когда ИИ создаёт сам себя
А вот главный кошмар, о котором говорят в Anthropic. Речь идёт о так называемом рекурсивном самосовершенствовании. Звучит сложно, но суть проста: мы можем приблизиться к моменту, когда ИИ начнёт не просто помогать людям создавать новые модели, а самостоятельно проектировать и строить своих собственных, более совершенных преемников.
Человек в этой цепочке станет лишним звеном. Система будет ускоряться сама по себе, в геометрической прогрессии, без нашего участия и, что самое страшное, без нашего понимания. Авторы доклада подчёркивают: этот сценарий ещё не стал реальностью, но признаки приближения к нему видны уже сейчас.
Интересно, что пугает не абстрактная фантастика, а конкретные метрики. Всё началось с внутренних процессов самой Anthropic.
80% кода от Claude: точка невозврата пройдена?
Цифра, которая заставляет задуматься любого, кто связан с технологиями: более 80% кода, который сегодня интегрируется во внутреннюю базу Anthropic, написан её же ИИ — моделью Claude. Ещё в феврале 2025 года, до запуска Claude Code, этот показатель был «несколько процентов».
Меньше чем за полтора года ИИ стал не помощником, а основным «сотрудником». Производительность взлетела до небес: типичный инженер компании во втором квартале 2026 года интегрировал в среднем в восемь раз больше кода в день, чем в 2024-м.
Но это ведь хорошо, скажете вы? Эффективность растёт! Вот в чём парадокс. Рост продуктивности — это и есть тот самый тревожный сигнал. Система становится настолько эффективной в создании и улучшении самой себя, что скоро может просто выйти из-под контроля. Мы передаём ключевые компетенции — способность творить и развиваться — в руки алгоритма.
Что это значит для России
А как эта история выглядит через призму российских реалий? Прямо сейчас в России идёт своя, не менее интенсивная гонка — но не в области общего ИИ, а в сфере цифровых финансов. Мы активно разрабатываем цифровой рубль, создаём законы для крипторынка, строим собственную технологическую суверенность.
Но предупреждение Anthropic — это зеркало для наших процессов. Мы так же стремимся к автоматизации и эффективности в финансовом секторе. Что, если алгоритмы, управляющие цифровым рублём или анализирующие транзакции, однажды начнут эволюционировать самостоятельно? Риск потери контроля над критической инфраструктурой — будь то ИИ или цифровая валюта — имеет одну и ту же природу.
Российское регулирование пока фокусируется на безопасности и запретах. Однако история с Anthropic показывает, что главный вызов будущего — не в том, чтобы запретить технологию, а в том, чтобы научиться её вовремя останавливать. Нам нужны не только законы «о чём-то», но и механизмы глобальной «аварийной остановки». Осознаём ли мы эту необходимость в контексте наших CBDC?
Прогноз редакции
Призыв Anthropic станет отправной точкой, но не остановкой. Гонка ИИ продолжится, потому что экономические и стратегические стимулы никуда не денутся. Однако в течение ближайших двух-трёх лет мы увидим первые, робкие попытки создания международных протоколов для контроля над ИИ — по аналогии с ядерными договорами. Россия будет вынуждена в них участвовать, потому что в одиночку с такой угрозой не справится ни одна страна.
