La fusión de la IA y Web3 plantea nuevos desafíos de seguridad en Finanzas descentralizadas. Los expertos piden prestar atención a la auditoría de agentes de IA.
Nuevos desafíos de seguridad en la tendencia de fusión entre IA y Web3
Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. Durante el evento, varios expertos de la industria llevaron a cabo discusiones profundas sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.
Con el rápido desarrollo de los modelos de lenguaje grandes (LLM) y los agentes de IA, está surgiendo un nuevo paradigma financiero: las finanzas descentralizadas de inteligencia artificial (DeFAI). Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad señaló: "Aunque DeFAI tiene un gran potencial, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, y generalmente son autorizados para operar por usuarios, protocolos o DAOs. El representante más típico son los bots de trading de IA. Actualmente, la mayoría de los agentes de IA funcionan sobre una arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a amenazas como inyecciones, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo puede resultar en pérdidas financieras, sino que también puede afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario de ataque típico: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante publica alertas falsas, como "un protocolo está siendo atacado", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en pérdidas de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que luego el atacante puede aprovechar mediante el front running.
En cuanto a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.
Los usuarios deben tener claro el alcance de los permisos que tiene el agente, otorgar permisos con cautela y prestar atención a la revisión de las operaciones de alto riesgo del agente de IA. Los desarrolladores deben implementar medidas de defensa desde la fase de diseño, tales como: refuerzo de las indicaciones, aislamiento en sandbox, limitación de velocidad y mecanismos de lógica de retroceso. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con los desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, sugirió: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, el IBW ha atraído a más de 15,000 participantes en total, incluidos desarrolladores, promotores de proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía (CMB) de la emisión de licencias para proyectos de blockchain, la posición del IBW en la industria se ha elevado aún más.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
8
Compartir
Comentar
0/400
AllInAlice
· hace5h
Siento que ahora cualquier proyecto que incluya IA está bien.
Ver originalesResponder0
AirdropSweaterFan
· hace17h
Lujoso, pero no se puede retirar.
Ver originalesResponder0
AltcoinOracle
· hace18h
fascinante... mi análisis propietario muestra una correlación del 87.4% entre las vulnerabilidades de defai y los patrones comerciales de la antigua Mesopotamia, para ser honesto.
Ver originalesResponder0
LootboxPhobia
· hace18h
Esta comienza a meterse en un lío.
Ver originalesResponder0
BridgeTrustFund
· hace18h
La seguridad siempre está dirigida a la Billetera.
Ver originalesResponder0
ChainWallflower
· hace18h
No es tan complicado, ¿quién sabe sobre cosas que son difíciles de prevenir~
Ver originalesResponder0
SchroedingerMiner
· hace18h
Siento que no escuches a esos expertos hablar tonterías, mi Rig de Minera nunca tiene problemas.
Ver originalesResponder0
PaperHandsCriminal
· hace18h
tomar a la gente por tonta durante unos años y todavía jugando. Nací para esperar a cerrar todas las posiciones.
La fusión de la IA y Web3 plantea nuevos desafíos de seguridad en Finanzas descentralizadas. Los expertos piden prestar atención a la auditoría de agentes de IA.
Nuevos desafíos de seguridad en la tendencia de fusión entre IA y Web3
Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. Durante el evento, varios expertos de la industria llevaron a cabo discusiones profundas sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.
Con el rápido desarrollo de los modelos de lenguaje grandes (LLM) y los agentes de IA, está surgiendo un nuevo paradigma financiero: las finanzas descentralizadas de inteligencia artificial (DeFAI). Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad señaló: "Aunque DeFAI tiene un gran potencial, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, y generalmente son autorizados para operar por usuarios, protocolos o DAOs. El representante más típico son los bots de trading de IA. Actualmente, la mayoría de los agentes de IA funcionan sobre una arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a amenazas como inyecciones, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo puede resultar en pérdidas financieras, sino que también puede afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario de ataque típico: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante publica alertas falsas, como "un protocolo está siendo atacado", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en pérdidas de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que luego el atacante puede aprovechar mediante el front running.
En cuanto a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.
Los usuarios deben tener claro el alcance de los permisos que tiene el agente, otorgar permisos con cautela y prestar atención a la revisión de las operaciones de alto riesgo del agente de IA. Los desarrolladores deben implementar medidas de defensa desde la fase de diseño, tales como: refuerzo de las indicaciones, aislamiento en sandbox, limitación de velocidad y mecanismos de lógica de retroceso. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con los desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, sugirió: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, el IBW ha atraído a más de 15,000 participantes en total, incluidos desarrolladores, promotores de proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía (CMB) de la emisión de licencias para proyectos de blockchain, la posición del IBW en la industria se ha elevado aún más.