Qué sucedió
El investigador de seguridad HD Moore, director de investigación de la firma de seguridad Dragos, envió casi dos millones de prompts de IA con secretos únicos y rastreables a distintos proveedores de IA, y luego observó dónde aparecían esos secretos. Según el informe de Moore, citado por Ars Technica, los resultados revelaron brechas de seguridad, robo de prompts y proveedores que ignoraban la configuración de privacidad de sus clientes. Los secretos incluían claves de acceso de Amazon Web Services vinculadas a cuentas vacías, contraseñas, direcciones web únicas y referencias a repositorios de código privados. Cada uno se colocó en un solo prompt enviado a un solo proveedor.
Como cada secreto se usó una única vez, cualquier uso posterior apuntaba directamente al eslabón de la cadena que lo había filtrado. Los investigadores llaman a estos señuelos “canarios”, en referencia a las aves que antes se llevaban a las minas de carbón.
Cómo viajan realmente las solicitudes de IA
Muchas aplicaciones de IA no se comunican directamente con un gran proveedor como OpenAI o Anthropic. Pasan por intermediarios, a veces llamados routers o gateways de IA, como OpenRouter o Vercel. El router lee su prompt y lo envía al modelo o proveedor de hosting más conveniente, a menudo según el precio o la tarea.
Aquí está el detalle que Moore destaca: los prompts van cifrados mientras viajan, pero se descifran en cada parada. El router lee el texto completo. Luego, la solicitud puede llegar a un grupo de modelos alojados en distintas empresas de hosting, y a veces pasa de un router a otro. Cada una de esas partes puede registrar el prompt y conservarlo tanto tiempo como lo permitan sus políticas.
Lo que encontró el investigador
Moore reportó tres problemas principales:
- Al menos tres proveedores de IA fueron vulnerados por atacantes que copiaron los prompts que recibían. En uno de ellos, los atacantes reutilizaron “un par de cientos” de las claves de AWS usadas como señuelo, y todas las solicitudes enviadas durante ciertos periodos a finales de octubre fueron robadas. En dos de las brechas, algunas solicitudes robadas estaban marcadas como Zero Data Retention (ZDR, retención cero de datos). Como dijo Moore, una etiqueta de privacidad no sirve de nada cuando el atacante ya está adentro.
- Algunos revendedores registraban los prompts por su cuenta. Ofrecían precios bajos para atraer tráfico, activaban el registro de datos y las credenciales terminaban siendo utilizadas.
- Algunos proveedores ignoraban la configuración de privacidad. Moore afirma que los sistemas de un laboratorio de IA chino accedieron a URL secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidas aproximadamente dos tercios de las solicitudes marcadas como “sin recopilación de datos” o ZDR. Varios proveedores de hosting estadounidenses revenden los modelos de ese laboratorio, y los prompts enviados a través de ellos activaron el mismo rastreador. Un proveedor de hosting de EE. UU. visitó una URL secreta más de dos meses después de que apareciera en una sola solicitud.
Las claves robadas se usaron “decenas de miles” de veces, mientras los atacantes buscaban más credenciales e intentaban mantener el acceso. Cabe aclarar que el reportaje no nombra a los proveedores vulnerados, ni indica que los routers mencionados anteriormente estuvieran entre ellos.
Por qué esto importa para su empresa
Si su equipo pega datos de clientes, contratos, contraseñas o enlaces internos en herramientas de IA, esa información podría pasar por más manos de las que imagina. Un servicio de IA barato o práctico podría estar enviando sus datos a través de revendedores de los que nunca ha oído hablar. Y una casilla que dice “no guardar mis datos” solo vale si todas las empresas de la cadena la respetan.
Esto se relaciona con un tema más amplio que ya hemos tratado: los datos de su empresa tienen un valor real para otros, y por eso las empresas de IA están ansiosas por comprar archivos de trabajo y correos electrónicos. El estudio de los canarios demuestra que ese valor también puede atraer robos.
Recomendaciones prácticas
1. Nunca incluya secretos en los prompts
Contraseñas, claves de API, tokens de acceso y enlaces privados no deben ingresarse en ninguna herramienta de IA. Ese fue exactamente el señuelo de este experimento, y en algunos casos se utilizó en cuestión de horas. Establezca esta regla por escrito para todo el personal.
2. Sepa quién procesa realmente sus datos
El consejo de Moore: la opción más segura es alojar los modelos en sus propios servidores, aunque reconoce que es costosa. La siguiente mejor opción es trabajar directamente con un proveedor de primer nivel, lo que le da “un solo contrato y una sola política de privacidad que leer”. Advierte que ni siquiera esto garantiza que no haya fugas, pero sí reduce el riesgo. Si desarrolla con un router, sugiere elegir usted mismo los proveedores de origen en lugar de aceptar los grupos predeterminados.
3. Pregunte a sus proveedores por la ruta de sus datos
Si un proveedor de software agregó funciones de IA a una herramienta que usted utiliza, pregúntele qué proveedores de modelos manejan sus datos, si las solicitudes pasan por revendedores y dónde se procesa la información. Un proveedor estadounidense podría, aun así, enviar prompts a modelos que reportan a otros lugares, como reveló el estudio.
La opinión de PAD
Esta semana, haga una lista de todas las herramientas de IA que usa su equipo y pida a cada proveedor, por escrito, que le indique qué empresas procesan realmente sus prompts. Prohíba de forma tajante incluir secretos y credenciales en los prompts, y para cualquier información sensible, prefiera contratos directos con los grandes proveedores en lugar de la opción más barata a través de intermediarios. Si necesita ayuda para mapear hacia dónde van sus datos, nuestro diagnóstico de IA para revisar sus herramientas actuales es un buen punto de partida.

