ИИ-взломщиков ставят на цепь: почему Бутерин поддерживает «беззубый» ИИ

Крипторынок

Представьте ИИ, который идеально умеет взламывать системы. Мощно? Опасно? Именно такую модель выпустила компания Moonshot AI. Их новый ИИ Kimi K3.1 Pro мог легко находить уязвимости, но создатели решили его «обезвредить». И эту идею поддержал не кто иной, как Виталик Бутерин — основатель Ethereum.

Его аргумент прост: лучше заранее ограничить способности искусственного интеллекта, чем пытаться ставить фильтры и барьеры на пути каждого отдельного пользователя. Интересно, что это мнение рождается на фоне внутренних испытаний Moonshot. Там выяснилось, что «обезвреженная» версия Kimi справлялась с 81% заданий на поиск эксплойтов. А вот её «дикая» версия, лишенная ограничений, показывала результат в 90,5%. Разница почти в 10% — это ли не цена безопасности?

Почему Бутерин за «кастрированный» ИИ?

Но что на самом деле волнует создателя Ethereum? Его поддержка не случайна. Бутерин давно говорит о рисках, которые несут передовые технологии в неверных руках. В мире, где криптовалюты и цифровые активы хранят триллионы долларов, уязвимость систем — прямая угроза.

Искусственный интеллект, обученный находить бреши в безопасности, может стать оружием для хакеров. А представьте, что подобный инструмент начнут применять для атак на блокчейны, криптобиржи или даже инфраструктуру цифровых валют центральных банков? Последствия будут катастрофическими. Интересно, что Бутерин предлагает не запрещать технологии, а встраивать безопасность в саму их архитектуру. Сделать потенциально опасные функции попросту недоступными изначально.

Цена безопасности: 10% производительности

А вот и главный вопрос: насколько мы готовы пожертвовать эффективностью ради защиты? Тесты Moonshot AI — идеальная иллюстрация этой дилеммы. Разработчики сознательно снизили производительность модели на поиск уязвимостей почти на десятую часть.

Это не просто абстрактные цифры. В реальном мире эти проценты могут означать необнаруженную критическую уязвимость в смарт-контракте или платежной системе. Но с другой стороны, тот же инструмент в неограниченном виде может попасть к злоумышленникам и привести к массовым взломам. Выбор Moonshot и поддержка Бутерина показывают, куда сегодня качнулись весы — в сторону предосторожности.

Что это значит для России

А как эта история выглядит на фоне российских цифровых инициатив? Прямо сейчас в России идет активная разработка цифрового рубля. Безопасность его платформы — один из ключевых приоритетов Банка России. Можно провести прямую параллель.

Риски, о которых говорит Бутерин, абсолютно актуальны и для нашей страны. Внедрение CBDC создает огромную централизованную систему, которая станет лакомой целью для хакеров всех мастей. Вопрос не в том, будут ли попытки атаковать цифровой рубль, а в том, когда они начнутся. И если мошенники получат в руки продвинутые ИИ-инструменты для поиска уязвимостей, задача защиты усложнится в разы.

Российский крипторынок и регуляторы также сталкиваются с похожими вызовами. Ограничения и запреты на некоторые операции — это, по сути, попытка встроить «фильтры» на уровне пользователя. Но логика Бутерина и Moonshot AI подсказывает, что более эффективный путь — проектировать системы изначально с ограниченными рисками. Возможно, этот подход стоит перенять и нашим разработчикам и регуляторам.

Прогноз редакции

Мы уверены, что эпоха «дикого» и ничем не ограниченного ИИ в финансовой и технологической сферах подходит к концу. История с Kimi — только первая ласточка. В ближайшие год-два мы увидим волну добровольного «самоограничения» крупных tech-компаний, особенно тех, кто работает рядом с деньгами и критической инфраструктурой. Регуляторы по всему миру, включая Россию, начнут всё чаще требовать встраивания превентивных мер защиты прямо в код алгоритмов, а не постфактум.

Дисклеймер: Материалы сайта cb-dc.ru носят исключительно информационный характер и не являются финансовым советом, инвестиционной рекомендацией или призывом к совершению каких-либо финансовых операций. Перед принятием инвестиционных решений проконсультируйтесь с квалифицированным финансовым советником. Инвестиции в криптовалюты и цифровые активы сопряжены с высоким уровнем риска.
Оцените статью
CBDC
Добавить комментарий