Что происходит, когда технология развивается быстрее, чем законы? Мир сейчас наблюдает за этим экспериментом в прямом эфире. Искусственный интеллект, который ещё вчера казался футуристической игрушкой, сегодня пишет код, принимает решения и меняет нашу реальность. А вот надзорные органы за ним просто не поспевают.
Генеральный секретарь ООН Антониу Гутерриш недавно выступил с жёстким заявлением. Он назвал текущую ситуацию «экспериментом над обществами без плана и без согласия». Его главный посыл прост: пора перестать пассивно наблюдать и начать активно управлять.
Скорость против здравого смысла
Интересно, что интернету потребовалось 15 лет, чтобы достичь миллиарда пользователей. ИИ справился с этим всего за два года. А такие системы, как ChatGPT, набрали 100 миллионов пользователей за какие-то два месяца. Это не просто быстрый рост — это взрыв.
Но проблема не только в скорости. Гутерриш выделил три ключевых риска. Первый — это бешеное распространение технологий. Второй — опасная концентрация вычислительных мощностей и данных в руках горстки компаний и стран. Третий — и, пожалуй, самый тревожный — деградация информационной среды.
Современные системы уже не просто ждут команд. Они действуют онлайн, пишут код и принимают решения при всё меньшем участии человека. «Наши институты создавались для управления машинами, которые выполняют команды. Они не готовы к машинам, которые принимают решения», — констатировал генсек ООН.
«Вайб-кодить» будущее нельзя
Гутерриш использовал яркую метафору — «вайб-кодинг». Это когда ты позволяешь системе делать свою работу, не вникая глубоко в механизмы и последствия. В творчестве это может творить чудеса. Но в управлении обществом такой подход губителен.
«Мы не можем вайб-кодить истину. Мы не можем вайб-кодить будущее человечества», — заявил он. По его словам, выбор стоит не между верой в ИИ и страхом перед ним. Реальный выбор — между осознанным управлением и пассивным дрейфом в неизвестность.
А ведь это напрямую перекликается с миром цифровых финансов. CBDC, алгоритмические стейблкоины, DeFi-протоколы — всё это тоже системы, принимающие решения. И их тоже нельзя просто «запустить и забыть».
Дети — не подопытные кролики
Одним из главных приоритетов Гутерриш назвал защиту детей. Он прямо заявил: «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ». Технология уже глубоко вошла в обучение, дружбу и личные вопросы детей, пока общество даже не успело осознать последствия.
ООН предложила конкретные правила. Например, нельзя запускать ИИ-системы, доступные детям, без специального тестирования и независимого надзора. Нулевая терпимость к генерации запрещённого контента с участием несовершеннолетних. И ключевое правило: если чат-бот замечает, что ребёнок находится в кризисе, он должен остановиться и подключить живую человеческую помощь.
Это создаёт интересный прецедент для регуляторов по всему миру. Если к ИИ-ассистентам для детей предъявляют такие требования, то что насчёт финансовых ИИ-советников или алгоритмов кредитования?
Что это значит для России
Россия, со своим проектом цифрового рубля, стоит на похожем перекрёстке. Мы тоже создаём сложную технологическую систему, которая будет принимать решения — пусть и в строго очерченных рамках. Вопрос надёжности, безопасности и, что немаловажно, объяснимости алгоритмов ЦБ становится критическим.
Концентрация вычислительных мощностей, о которой говорил Гутерриш, — это и наш вызов. Разработка CBDC требует серьёзных ресурсов. Кто будет их контролировать? Как обеспечить, чтобы цифровой рубль не стал инструментом излишнего контроля, а оставался удобным и безопасным платёжным средством?
А вот российский крипторынок, который пытается жить в парадигме регулирования, тоже смотрит на эту историю с интересом. Если мир начнёт жёстко регулировать «принимающие решения» ИИ-системы, то алгоритмические DeFi-протоколы и смарт-контракты автоматически попадут в фокус внимания. Наше законодательство о ЦФА к этому готово? Вопрос открытый.
Прогноз редакции
Мы считаем, что призывы ООН станут катализатором. В ближайшие год-два мы увидим не просто дискуссии, а первые жёсткие международные рамки для «сильного» ИИ, особенно в чувствительных сферах вроде финансов, правосудия и обороны. Цифровые валюты центральных банков, как системы, тесно связанные с суверенитетом и стабильностью, окажутся в авангарде этого регулирования. Россия здесь не будет исключением — давление в сторону прозрачности и контроля алгоритмов цифрового рубля будет только расти.
