La nueva paradigma financiero emergente bajo la fusión de AI y Web3: El auge de DeFAI y los desafíos de seguridad
Recientemente, en el evento de Blockchain Week celebrado en Estambul, expertos de la industria llevaron a cabo una profunda discusión sobre la tendencia de la fusión entre la inteligencia artificial y Web3. Durante el evento, varios expertos en los campos de la seguridad y la tecnología participaron en un foro de mesa redonda, donde discutieron el estado actual de la aplicación de la tecnología de IA en las finanzas descentralizadas y los desafíos de seguridad que conlleva.
Con el rápido desarrollo de los modelos de lenguaje y los agentes de IA, está surgiendo un nuevo paradigma financiero conocido como "DeFAI" (finanzas de inteligencia artificial descentralizada). Sin embargo, esta innovación también ha traído nuevos riesgos de seguridad y potenciales peligros.
Un alto ejecutivo de una empresa de seguridad señaló: "Aunque DeFAI tiene un gran potencial, nos obliga a repensar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales basados en lógica fija, el proceso de toma de decisiones de un agente de IA se ve influenciado por múltiples factores, incluyendo el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también ofrece oportunidades a posibles atacantes."
Los agentes de IA son, en esencia, entidades inteligentes capaces de tomar decisiones y ejecutar acciones de manera autónoma basadas en la lógica de IA, y que generalmente son autorizadas para funcionar por usuarios, protocolos u organizaciones autónomas descentralizadas. Actualmente, el ejemplo más típico son los robots de comercio de IA. Sin embargo, la mayoría de los agentes de IA todavía funcionan sobre una arquitectura Web2, confiando en servidores y API centralizados, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o manipulación de datos. Una vez que un agente de IA es secuestrado, no solo puede resultar en pérdidas directas de fondos, sino que también puede afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario típico de ataque: cuando el agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante podría publicar alertas falsas, como afirmar que un protocolo está bajo ataque. Esto podría inducir al agente de IA a iniciar inmediatamente una operación de liquidación de emergencia, lo que no solo resultaría en la pérdida de activos para el usuario, sino que también podría provocar inestabilidad en el mercado, que el atacante podría aprovechar mediante técnicas como el front-running.
Frente a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debería ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios necesitan comprender claramente el alcance de los permisos del agente, otorgar autorizaciones con precaución y prestar atención a las operaciones de alto riesgo del agente de IA. Los desarrolladores, por su parte, deben implementar medidas de defensa desde la fase de diseño, como el refuerzo de palabras clave, el aislamiento en sandbox, la limitación de velocidad y la lógica de retroceso. Las agencias de seguridad de terceros deben proporcionar revisiones independientes del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad enfatizó al final: "Si continuamos viendo a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo una cuestión de tiempo." Sugerió a los desarrolladores que están explorando la dirección de DeFAI: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad y pruebas de penetración profesionales."
La Semana de Blockchain de Estambul, como uno de los eventos de blockchain más influyentes de Europa, ha atraído a más de 15,000 desarrolladores, promotores de proyectos, inversores y reguladores de todo el mundo. Con el inicio oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión de Mercados de Capitales de Turquía, la posición de este evento en la industria se ha elevado aún más.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
21 me gusta
Recompensa
21
5
Compartir
Comentar
0/400
ImpermanentLossEnjoyer
· 07-17 20:10
¿No se va a hacer realmente el control de riesgos?
Ver originalesResponder0
StablecoinEnjoyer
· 07-14 21:14
Delante hay un Hacker y detrás hay un bug
Ver originalesResponder0
ShibaMillionairen't
· 07-14 20:53
Industria tontos representante
Ver originalesResponder0
FlashLoanLarry
· 07-14 20:51
rekt incoming... visto esta película antes con defi 1.0. la eficiencia de capital != seguridad
DeFAI en auge: Aplicaciones y desafíos de seguridad de agentes de IA en Finanzas descentralizadas
La nueva paradigma financiero emergente bajo la fusión de AI y Web3: El auge de DeFAI y los desafíos de seguridad
Recientemente, en el evento de Blockchain Week celebrado en Estambul, expertos de la industria llevaron a cabo una profunda discusión sobre la tendencia de la fusión entre la inteligencia artificial y Web3. Durante el evento, varios expertos en los campos de la seguridad y la tecnología participaron en un foro de mesa redonda, donde discutieron el estado actual de la aplicación de la tecnología de IA en las finanzas descentralizadas y los desafíos de seguridad que conlleva.
Con el rápido desarrollo de los modelos de lenguaje y los agentes de IA, está surgiendo un nuevo paradigma financiero conocido como "DeFAI" (finanzas de inteligencia artificial descentralizada). Sin embargo, esta innovación también ha traído nuevos riesgos de seguridad y potenciales peligros.
Un alto ejecutivo de una empresa de seguridad señaló: "Aunque DeFAI tiene un gran potencial, nos obliga a repensar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales basados en lógica fija, el proceso de toma de decisiones de un agente de IA se ve influenciado por múltiples factores, incluyendo el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también ofrece oportunidades a posibles atacantes."
Los agentes de IA son, en esencia, entidades inteligentes capaces de tomar decisiones y ejecutar acciones de manera autónoma basadas en la lógica de IA, y que generalmente son autorizadas para funcionar por usuarios, protocolos u organizaciones autónomas descentralizadas. Actualmente, el ejemplo más típico son los robots de comercio de IA. Sin embargo, la mayoría de los agentes de IA todavía funcionan sobre una arquitectura Web2, confiando en servidores y API centralizados, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o manipulación de datos. Una vez que un agente de IA es secuestrado, no solo puede resultar en pérdidas directas de fondos, sino que también puede afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario típico de ataque: cuando el agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante podría publicar alertas falsas, como afirmar que un protocolo está bajo ataque. Esto podría inducir al agente de IA a iniciar inmediatamente una operación de liquidación de emergencia, lo que no solo resultaría en la pérdida de activos para el usuario, sino que también podría provocar inestabilidad en el mercado, que el atacante podría aprovechar mediante técnicas como el front-running.
Frente a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debería ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios necesitan comprender claramente el alcance de los permisos del agente, otorgar autorizaciones con precaución y prestar atención a las operaciones de alto riesgo del agente de IA. Los desarrolladores, por su parte, deben implementar medidas de defensa desde la fase de diseño, como el refuerzo de palabras clave, el aislamiento en sandbox, la limitación de velocidad y la lógica de retroceso. Las agencias de seguridad de terceros deben proporcionar revisiones independientes del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad enfatizó al final: "Si continuamos viendo a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo una cuestión de tiempo." Sugerió a los desarrolladores que están explorando la dirección de DeFAI: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad y pruebas de penetración profesionales."
La Semana de Blockchain de Estambul, como uno de los eventos de blockchain más influyentes de Europa, ha atraído a más de 15,000 desarrolladores, promotores de proyectos, inversores y reguladores de todo el mundo. Con el inicio oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión de Mercados de Capitales de Turquía, la posición de este evento en la industria se ha elevado aún más.