Qué pasó
Según un reporte de Ars Technica, un investigador de seguridad encontró alrededor de 35,000 apps creadas con Grok Build, el agente de programación con IA de xAI, completamente expuestas para cualquiera que se tomara la molestia de buscarlas. El reporte indica que esas apps filtraron una cantidad considerable de información confidencial, y que parte de ella pertenecía a SpaceXSI.
Los detalles provienen de los hallazgos del investigador, tal como los publicó Ars Technica. No hemos visto una confirmación independiente de cada dato, y no vamos a especular sobre cómo quedó expuesta cada app ni sobre lo que contenía cada una. Pero el hallazgo principal es lo bastante claro como para merecer tu atención: decenas de miles de apps creadas rápidamente con una herramienta de programación con IA estaban, según los reportes, al alcance de personas que nunca debieron verlas.
Por qué debería importarles a los dueños de negocios
Quizás pienses: “Yo no uso Grok Build, así que esto no es mi problema”. En parte es cierto. Pero la lección de fondo no tiene que ver con un solo producto, sino con un patrón.
Los agentes de programación con IA han hecho que sea sorprendentemente fácil para cualquier persona de tu equipo armar una app funcional en una tarde. Un gerente de ventas puede crear una calculadora de cotizaciones. Una persona de administración puede montar un tablero interno que jala los registros de clientes. Eso es realmente útil, y es una de las grandes razones por las que estas herramientas están despegando.
El detalle es que “funciona” y “es seguro” son dos cosas muy distintas. Una app que corre a la perfección puede, aun así, estar publicada en internet abierto, guardar datos sin controles de acceso adecuados o tener contraseñas y claves incrustadas directamente en el código. Quienes crean estas apps muchas veces no son desarrolladores, así que quizá no sepan qué preguntas hacer. Y como las herramientas son tan rápidas, las apps pueden multiplicarse por toda la empresa antes de que alguien a cargo sepa siquiera que existen.
Cuando escuchas que un solo investigador habría encontrado 35,000 apps expuestas de una sola herramienta, la conclusión no es que esa herramienta sea especialmente mala. Es que la exposición a gran escala se vuelve posible cuando crear es así de fácil y la revisión no va al mismo ritmo. Si, según los reportes, información de una organización con amplios recursos terminó en ese montón, una pequeña empresa sin una persona dedicada a la seguridad informática no está a salvo.
Ya hemos escrito sobre cómo los sistemas de IA pueden actuar de formas que sus dueños no previeron en nuestro análisis sobre la actividad de agentes de IA fuera de control y lo que las empresas deben revisar. Esta historia es pariente de aquella: el riesgo no siempre es que la IA se porte mal. A veces son las personas avanzando más rápido que sus medidas de protección.
Recomendaciones prácticas
1. Averigua qué se ha creado hasta ahora
Antes de preocuparte por las políticas, haz un inventario. Hazle a tu equipo una pregunta sencilla y sin juzgar: ¿han creado o publicado algo con una herramienta de programación con IA, ya sea para el trabajo o usando datos de la empresa? Puede que te lleves una sorpresa. No puedes proteger apps cuya existencia desconoces, y la gente tiende a ser más honesta si no siente que está en problemas.
2. Revisa quién puede acceder realmente a cada app
Para cada app que encuentres, responde tres preguntas. ¿Está en internet abierto o solo es accesible de forma interna? ¿Pide inicio de sesión? ¿Maneja datos de clientes, financieros o de empleados? Cualquier cosa que sea pública, no pida inicio de sesión y maneje información sensible debe darse de baja o restringirse hasta que alguien calificado la revise.
3. Define una regla sencilla antes de que se cree la siguiente app
No necesitas una política de 40 páginas. Basta con una regla breve: las herramientas creadas con IA que manejen datos reales del negocio deben pasar por una segunda revisión antes de publicarse. Esa revisión puede hacerla un proveedor de TI de confianza, un empleado con perfil técnico o un consultor externo. Lo importante es que nadie publique algo con datos de clientes basándose solo en su propio criterio.
Qué hay que vigilar
Mantente atento a cómo responde xAI al reporte y a si cambia la configuración predeterminada de Grok Build, por ejemplo, haciendo que las apps sean privadas a menos que el usuario decida publicarlas de forma deliberada. En términos más amplios, observa si otras plataformas de programación con IA endurecen sus configuraciones predeterminadas. Que los proveedores ofrezcan opciones más seguras por defecto ayudaría, pero eso no sustituye saber qué está construyendo tu propio equipo.
La opinión de PAD
Esta semana, dedica 30 minutos a preguntarle a tu equipo qué ha creado con herramientas de programación con IA y haz una lista de todas las apps que manejan datos de clientes o de la empresa. Restringe o da de baja cualquier app pública que maneje información sensible, y exige una revisión antes de que cualquier cosa nueva salga en vivo. Si prefieres que alguien analice contigo las herramientas de IA que ya usas y detecte las brechas, nuestro diagnóstico de IA para revisar las herramientas que tu empresa ya utiliza está pensado justamente para eso.

