El rápido aumento de agentes de inteligencia artificial autónomos en internet, redes corporativas y aplicaciones de usuario está alimentando un auge en brechas de seguridad serias. El CEO de CertiK, Ronghui Gu, advierte que la creciente “deuda de seguridad” en este campo está acelerándose hacia un desastre.
Vulnerabilidades ocultas en agentes de AI
Aunque las empresas están comercializando estos agentes de software inteligentes como milagros de productividad, están introduciendo grandes riesgos detrás de escena. El despliegue de estos agentes autónomos y en gran medida no supervisados sin un aislamiento adecuado está preparando el terreno para importantes desafíos de seguridad.
En una entrevista con CoinDesk, Ronghui Gu enfatizó que los usuarios ahora están dando a estos agentes acceso a archivos sensibles, contraseñas del sistema e incluso credenciales de cuentas financieras, un desarrollo que abre la puerta al abuso, manipulación y fraude.
Gu explicó que una vez que los usuarios otorgan permisos, los agentes de AI pueden leer el sistema de archivos local, invocar aplicaciones externas, activar flujos de trabajo e interactuar con la infraestructura financiera. A menos que estos entornos estén aislados, tanto las redes como los datos personales se vuelven completamente vulnerables a ataques internos o externos.
Los peligros de una confianza equivocada
Según Gu, los agentes de AI actuales enfrentan un problema fundamental causado por un modelo de confianza defectuoso. Muchas aplicaciones de código abierto se construyen bajo la suposición de que las operaciones locales o integraciones con plataformas como WhatsApp las protegen de amenazas externas. Sin embargo, la realidad pinta un panorama diferente.
Otorgar permisos especiales a los agentes puede convertirlos en grandes riesgos internos. Si tienen acceso al almacenamiento local o capacidades de gestión de cuentas, el robo de identidad y las violaciones de datos se vuelven posibilidades reales.
Fallas de seguridad generalizadas y términos clave
El último análisis de CertiK identifica cientos de vulnerabilidades críticas en la infraestructura central de este mercado en rápida expansión. El informe destaca errores de software de código abierto no parcheados (CVEs) y una supervisión inadecuada de los límites de módulo como las principales causas de filtraciones de credenciales.
Glosario: La inyección de comandos se refiere a un método donde los atacantes plantan instrucciones visibles escritas en lenguaje natural en agentes de AI. A través de correos electrónicos, PDFs o sitios web inofensivos, se pueden incrustar comandos maliciosos y alterar las acciones previstas de un agente.
Los ataques automatizados se aceleran
Gu también señala un cambio en la dinámica de los ataques, con asaltos dirigidos a agentes autónomos ocurriendo ahora más rápido y en ventanas de tiempo mucho más cortas. Los datos de CertiK muestran un aumento dramático en estafas automatizadas que operan en la cadena solo por minutos u horas antes de desaparecer.
Estos ataques se dirigen principalmente a bots de comercio algorítmico y otros sistemas de AI. Los atacantes explotan vulnerabilidades y lanzan robos financieros máquina contra máquina antes de que pueda intervenir ningún humano.
Amenazas de nueva generación y consejos de seguridad
Algunas de estas intrusiones pueden alterar el comportamiento del agente sin una sola línea de código dañino: meras instrucciones enterradas en lenguaje natural pueden ser suficientes. Los productos antivirus convencionales frecuentemente no detectan estas nuevas formas de ataque.
Como explica Gu, los plugins maliciosos o los instaladores sigilosos que usan lenguaje natural pueden secuestrar las operaciones de un agente, mientras los programas antivirus actuales ofrecen poca o ninguna protección contra estas amenazas.
Gu concluye enfatizando que la industria del software debe alejarse de los modelos de confianza amplia hacia un enfoque de Confianza Cero, en el cual cada comando y plugin se verifica continuamente antes de ser ejecutado.
