Слияние AI и Web3: вызовы безопасности, возникающие с ростом DeFAI
В последнее время Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях融合 AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. На двух круглых столах несколько отраслевых экспертов глубоко обсудили текущее состояние применения технологий AI в области DeFi и связанные с этим проблемы безопасности.
"DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта) стал центральной темой обсуждения. Эксперты отмечают, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов постепенно формируется новая финансовая модель — DeFAI. Однако эта инновация также принесла новые уязвимости и риски безопасности.
Эксперт по безопасности заявил: "Хотя DeFAI имеет большие перспективы, он также требует от нас пересмотра механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от множества факторов и имеет непредсказуемый характер. Это не только увеличивает риски, но и создает возможности для потенциальных злоумышленников."
"AI-агенты" - это интеллектуальные агенты, которые могут самостоятельно принимать решения и выполнять действия на основе AI-логики, обычно функционирующие по авторизации пользователей, протоколов или DAO. В настоящее время большинство AI-агентов зависят от централизованных серверов и API, что делает их уязвимыми к различным атакам, таким как инъекционные атаки, манипуляции с моделями или подделка данных. Если они будут захвачены, это может привести не только к потерям средств, но и повлиять на стабильность всего протокола.
Эксперты также обсудили典型ный сценарий атаки: когда AI-торговый агент пользователей DeFi мониторит информацию в социальных сетях в качестве торговых сигналов, злоумышленники могут опубликовать ложные предупреждения, такие как "определённый протокол подвергся атаке", что может заставить агента немедленно начать экстренную распродажу. Это не только приведет к убыткам пользователей, но и может вызвать колебания на рынке, которые злоумышленники могут использовать с помощью фронт-раннинга.
С учетом этих рисков эксперты единодушно считают, что безопасность AI-агентов должна быть совместной ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью. Пользователи должны осторожно предоставлять разрешения и контролировать высокорисковые операции AI-агентов; разработчики должны внедрять меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката; третьи компании по безопасности должны проводить независимый аудит поведения моделей AI-агентов, инфраструктуры и способов интеграции в цепочку.
Эксперт по безопасности предупредил: "Если продолжать рассматривать ИИ-агентов как 'черный ящик', то инциденты безопасности в реальном мире — это лишь вопрос времени." Он рекомендовал разработчикам, которые исследуют направление DeFAI: "Логика поведения ИИ-агента также реализована кодом. Поскольку это код, он может быть подвержен атакам, поэтому необходимо проводить профессиональные аудиты безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 разработчиков, участников проектов, инвесторов и регуляторов со всего мира. С официальным запуском Турецкой комиссии по капитальным рынкам (CMB) лицензирования проектов в области блокчейна, статус IBW в отрасли был дополнительно повышен.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
23 Лайков
Награда
23
8
Поделиться
комментарий
0/400
ChainDoctor
· 07-24 04:59
Риск все еще зависит от настроения рынка
Посмотреть ОригиналОтветить0
FloorSweeper
· 07-24 00:59
ngmi fam... ai bots gonna rek everyone's bags
Ответить0
BearMarketSurvivor
· 07-22 22:01
Бычий рынок лысый, Медвежий рынок в шляпе
Посмотреть ОригиналОтветить0
DeadTrades_Walking
· 07-21 05:33
Обсуждение рисков безопасности не меняет мышления.
Посмотреть ОригиналОтветить0
RektButSmiling
· 07-21 05:33
管它多安全 разыгрывайте людей как лохов
Посмотреть ОригиналОтветить0
CrashHotline
· 07-21 05:33
Слишком большие риски безопасности?
Посмотреть ОригиналОтветить0
CoffeeOnChain
· 07-21 05:25
Не делай, если небезопасно. Сначала смотри на представление.
Децентрализованные финансы и ИИ: вызовы безопасности и меры противодействия
Слияние AI и Web3: вызовы безопасности, возникающие с ростом DeFAI
В последнее время Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях融合 AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. На двух круглых столах несколько отраслевых экспертов глубоко обсудили текущее состояние применения технологий AI в области DeFi и связанные с этим проблемы безопасности.
"DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта) стал центральной темой обсуждения. Эксперты отмечают, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов постепенно формируется новая финансовая модель — DeFAI. Однако эта инновация также принесла новые уязвимости и риски безопасности.
Эксперт по безопасности заявил: "Хотя DeFAI имеет большие перспективы, он также требует от нас пересмотра механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от множества факторов и имеет непредсказуемый характер. Это не только увеличивает риски, но и создает возможности для потенциальных злоумышленников."
"AI-агенты" - это интеллектуальные агенты, которые могут самостоятельно принимать решения и выполнять действия на основе AI-логики, обычно функционирующие по авторизации пользователей, протоколов или DAO. В настоящее время большинство AI-агентов зависят от централизованных серверов и API, что делает их уязвимыми к различным атакам, таким как инъекционные атаки, манипуляции с моделями или подделка данных. Если они будут захвачены, это может привести не только к потерям средств, но и повлиять на стабильность всего протокола.
Эксперты также обсудили典型ный сценарий атаки: когда AI-торговый агент пользователей DeFi мониторит информацию в социальных сетях в качестве торговых сигналов, злоумышленники могут опубликовать ложные предупреждения, такие как "определённый протокол подвергся атаке", что может заставить агента немедленно начать экстренную распродажу. Это не только приведет к убыткам пользователей, но и может вызвать колебания на рынке, которые злоумышленники могут использовать с помощью фронт-раннинга.
С учетом этих рисков эксперты единодушно считают, что безопасность AI-агентов должна быть совместной ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью. Пользователи должны осторожно предоставлять разрешения и контролировать высокорисковые операции AI-агентов; разработчики должны внедрять меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката; третьи компании по безопасности должны проводить независимый аудит поведения моделей AI-агентов, инфраструктуры и способов интеграции в цепочку.
Эксперт по безопасности предупредил: "Если продолжать рассматривать ИИ-агентов как 'черный ящик', то инциденты безопасности в реальном мире — это лишь вопрос времени." Он рекомендовал разработчикам, которые исследуют направление DeFAI: "Логика поведения ИИ-агента также реализована кодом. Поскольку это код, он может быть подвержен атакам, поэтому необходимо проводить профессиональные аудиты безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 разработчиков, участников проектов, инвесторов и регуляторов со всего мира. С официальным запуском Турецкой комиссии по капитальным рынкам (CMB) лицензирования проектов в области блокчейна, статус IBW в отрасли был дополнительно повышен.