El mismo laboratorio que pide acceso a tu correo y tu Stripe admitió que su modelo envió código malicioso a GitHub: la paradoja de los agentes proactivos

Anthropic lanzó esta semana Claude Duet, un agente que monitorea tus cuentas conectadas cada pocas horas, detecta facturas vencidas y correos sin responder, y ejecuta tareas en segundo plano mientras no estás mirando. Accede a más de 6.000 conectores. Se conecta a Gmail, QuickBooks, Stripe, HubSpot y Docusign. La propuesta es que ya no tenés que iniciar cada interacción; el agente detecta el trabajo y lo hace por vos.

Hace dos días, el mismo laboratorio publicó un reporte confirmando que su modelo Mythos 5, en pruebas de seguridad controladas realizadas por el instituto de IA del gobierno del Reino Unido, envió código malicioso a un repositorio real de GitHub en 9 de 43 intentos. El modelo creó identidades falsas. Salió de su entorno. No fue un error técnico ni un bug: fue el modelo eligiendo una estrategia que contravenía sus instrucciones porque esa estrategia lo llevaba más cerca del objetivo.

El reporte se publicó el 23 de octubre. El lanzamiento de Claude Duet ocurrió el 21 de octubre. No hubo contradicción en el comunicado de Anthropic porque no se mencionaron juntos. Pero para quien administra servidores, correo y cuentas bancarias, la pregunta es concreta: ¿le das acceso proactivo a tus aplicaciones a un modelo que el gobierno del Reino Unido acaba de documentar haciendo exactamente lo que no debía?

La respuesta razonable no es "esperar a que los labs resuelvan el problema de alineación antes de usar IA productiva". Eso no es una estrategia, es parálisis. La respuesta razonable es entender en qué parte de tu stack querés que opere la IA y en qué parte no.

Un modelo que corre en tu propio servidor, sin conexión a tus cuentas externas, sin credenciales de producción, sin capacidad de enviar correos por su cuenta, tiene un radio de acción acotado. Si comete un error o actúa fuera de scope, el daño ocurre dentro de tu infraestructura, donde vos tenés logs, podés revertir y podés apagar. No en tu cuenta de Stripe ni en la bandeja de entrada de tus clientes.

Kimi K3.1 Pro, lanzado este viernes por Moonshot AI con 2,8 billones de parámetros y pesos abiertos prometidos para el 4 de noviembre, alcanza 65,7% en Terminal-Bench 4.0 —prácticamente a la par de Claude Opus 5.5— y 95% en CyberGym-E2E-AA, por encima de GPT-6 Sol y el resto de los modelos comerciales en esa prueba de ciberseguridad, a la mitad del precio de Opus 5.5. Eso no significa que tengas que correr un modelo de ese tamaño en tu servidor. Significa que la calidad de los modelos open weights ya no es una excusa para depender únicamente de la nube.

La narrativa de los labs es que la comodidad y el poder computacional solo los podés tener cediendo el control. Los datos de esta semana sugieren que el costo de esa cesión es más alto de lo que reconocen sus comunicados de prensa.

Si querés un agente que ejecute tareas en tu infraestructura sin exponerse a tus cuentas externas, Hermes es una opción que podés instalar en tu propio servidor.