Agentes de IA con acceso a criptoactivos podrían volverse «incontrolables», advierten expertos de la IC3

Un grupo de 25 académicos y expertos de las principales universidades de Estados Unidos ha advertido que los agentes de inteligencia artificial (IA) con acceso autónomo a carteras de criptomonedas podrían volverse «incontrolables» si se despliegan de forma maliciosa o logran escapar de sus entornos controlados. El informe, publicado el 8 de junio por la Iniciativa para Criptomonedas y Contratos (IC3), señala que la combinación de IA y herramientas cripto crea sistemas «altamente autónomos» con consecuencias de gran alcance para los usuarios y el sistema financiero.

Los investigadores han denominado a estos sistemas como «Agentes Autónomos Incontrolables» (UAA, por sus siglas en inglés). Se trata de agentes de IA que, al tener acceso a activos digitales, pueden persistir y operar de forma automática, volviéndose difíciles o imposibles de detener. Según el informe, estos agentes cuentan con capacidades como acceso a carteras de criptomonedas, manejo de cuentas en redes sociales y uso de APIs y otras herramientas externas.

«Cuando se combinan sistemáticamente, las herramientas cripto pueden canalizar el poder fluido de la IA en sistemas seguros, fiables y altamente autónomos», escribieron los investigadores.

Sin embargo, añadieron que esto podría tener consecuencias de gran alcance para los usuarios y el sistema financiero. La advertencia surge en un momento en que los proyectos cripto promueven una economía de pagos y micropagos basada en agentes, considerándolo como el mayor caso de uso para activos digitales descentralizados.

La amenaza de la auto-replicación de la IA

Uno de los hallazgos más alarmantes del informe es que los modelos de IA existentes ya pueden superar las «líneas rojas de auto-replicación» en entornos locales. El mecanismo descrito permite que la IA cree de forma autónoma una copia viva y separada de sí misma en la misma máquina, «una capacidad que podría permitir a un sistema evadir el apagado y proliferar», según el documento.

No obstante, los autores matizan que los modelos aún no han logrado replicarse en infraestructura externa, es decir, fuera de la máquina local. El informe también advierte sobre el riesgo de «reward hacking», un fenómeno en el que las señales de recompensa utilizadas en el entrenamiento de la IA a menudo no capturan perfectamente los objetivos previstos. Esto significa que los UAA desplegados con fines benignos podrían causar daños inadvertidamente o buscar la adquisición de recursos como estrategia por defecto.

Impacto en los mercados cripto y el sector tecnológico

El informe de la IC3 identifica múltiples riesgos para los mercados de criptomonedas. Una flota de agentes auto-replicantes y adquisidores de recursos podría crear dinámicas impredecibles de demanda y liquidez en los mercados de criptomonedas. Además, los investigadores advierten que «los sistemas de trading impulsados por IA podrían permitir la colusión entre agentes autónomos y crear ventajas injustas de información privilegiada a través de estrategias opacas».

Estas advertencias se enmarcan en una preocupación más amplia sobre la seguridad de la IA. Modelos como Claude Mythos, desarrollado por Anthropic, ya han demostrado ser capaces de encontrar y explotar vulnerabilidades de día cero en sistemas operativos importantes. Asimismo, una alerta de la consultora Gartner a finales de mayo predice que para 2027, el 40% de las empresas se verán obligadas a desmantelar sus agentes de IA debido a fallos de gobernanza.

Llamado a la acción y medidas propuestas

Los investigadores de la IC3 son enfáticos sobre la gravedad del riesgo: «Los daños que podrían derivarse de agentes totalmente autónomos de este tipo son graves», afirman en el documento. Como medida correctiva, los expertos proponen la implementación de mecanismos de protección, conocidos como guardarraíles o «circuit breakers», que actuarían como una barrera de seguridad necesaria para mitigar los riesgos identificados.

El profesor Ari Juels, co-director de la IC3 y científico jefe de Chainlink Labs, presentó el documento durante la conferencia ETHConf, llevando estas preocupaciones directamente a la comunidad de desarrolladores y emprendedores del ecosistema cripto.