IA en gobierno sin arnés: el riesgo no es teórico

Ilustración editorial de Global Agenttic sobre el uso institucional de IA dentro de un entorno controlado.

Un funcionario necesita resumir un documento, comparar dos políticas o preparar una respuesta urgente. Abre una herramienta pública de inteligencia artificial, copia el material y obtiene un resultado útil. Después pulsa compartir, publica un artefacto o deja el trabajo asociado a una cuenta personal. Lo que empezó como una ayuda individual termina fuera del perímetro institucional.

Ese recorrido cabe en pocos minutos. También puede dejar una exposición que la entidad no detecta hasta que el contenido aparece en un buscador.

Un reel de Ivanna Zauzich (@ivannazau) mostró resultados públicos de Claude que parecían incluir preguntas relacionadas con planeamiento de defensa en Bolivia. El video es prudente en un punto importante: no afirma que el contenido haya sido publicado oficialmente por la entidad ni permite confirmar, por sí solo, quién creó cada artefacto o cuánto material era realmente reservado. Pero la advertencia central se sostiene: una persona puede mover información institucional a un entorno abierto sin entender qué significa publicar, compartir o hacer accesible un resultado.

El mismo día, TechCrunch informó que conversaciones compartidas y artefactos de Claude habían aparecido en resultados de distintos buscadores. El medio reportó ejemplos con expedientes médicos, documentos empresariales y datos personales. Según Anthropic, estos enlaces no se entregaban a Google mediante un directorio o sitemap; podían volverse localizables cuando alguien los publicaba en un lugar que los motores de búsqueda pudieran rastrear. TechCrunch indicó además que, al momento de su comprobación, los resultados ya no aparecían.

La precisión importa. No estamos ante una prueba de que todo lo trabajado en Claude se vuelva público automáticamente. Estamos ante algo más cotidiano y difícil de controlar: personas que confunden “tener un enlace” con “mantener algo privado”, o que publican sin comprender el alcance de esa acción.

Una cuenta individual no debería decidir el perímetro de una entidad

En el sector público, una decisión personal puede afectar información que no pertenece a quien opera la herramienta. Un funcionario trabaja con expedientes, consultas ciudadanas, borradores normativos, compras, planificación, datos de colaboradores y comunicaciones internas. Aunque el documento no esté clasificado como secreto, su combinación con instrucciones, nombres o contexto puede revelar más de lo previsto.

La exposición no comienza únicamente al pegar información sensible. También puede aparecer cuando la IA produce un resumen que conserva detalles internos, cuando un artefacto se publica para que un compañero lo vea, cuando el historial queda en una cuenta personal o cuando nadie sabe retirar el acceso después.

La documentación oficial de Anthropic explica que un artefacto publicado puede ser visto por cualquier persona con el enlace hasta que se retire la publicación. La misma guía presenta los artefactos como una vía rápida para prototipos y demostraciones, y recomienda pasar a una infraestructura más robusta cuando el trabajo evoluciona hacia producción. Esa diferencia debería ser obvia en una entidad pública: una herramienta excelente para experimentar no se convierte automáticamente en un entorno institucional.

Cuando cada funcionario decide qué servicio usar, con qué cuenta, qué información subir y cómo compartirla, la entidad no tiene un programa de IA. Tiene cientos de pequeños perímetros definidos por hábitos individuales.

El arnés no frena a la IA; limita el daño de un error

En ingeniería, un arnés permite trabajar con una herramienta potente sin depender de que la persona nunca se equivoque. La metáfora sirve para la inteligencia artificial. Capacitar es necesario, pero una charla anual no puede ser el único control entre un documento institucional y una publicación abierta.

Un arnés institucional combina tecnología, reglas y responsabilidad operativa. Debería responder preguntas concretas:

• ¿Quién entra con identidad institucional y qué ocurre cuando cambia de cargo?
• ¿Qué áreas trabajan en espacios separados?
• ¿Qué fuentes están aprobadas para cada asistente o tarea?
• ¿Quién puede publicar, exportar, conectar una integración o cambiar una configuración?
• ¿Qué acciones quedan registradas y durante cuánto tiempo?
• ¿Qué resultado necesita revisión humana antes de afectar a un ciudadano o producir una comunicación oficial?
• ¿Cómo se retira contenido, se suspende un acceso y se investiga un incidente?

Esta forma de pensar coincide con el AI Risk Management Framework de NIST, que trata la gobernanza como una función transversal. No es una revisión que ocurre después de desplegar. Debe influir en cómo se diseña, usa, mide y administra el sistema.

Para una entidad pública, el arnés tampoco puede reducirse a comprar una cuenta empresarial de la herramienta de moda. Una licencia puede mejorar la administración, pero todavía hace falta separar dependencias, limitar privilegios, controlar fuentes, registrar cambios y decidir qué usos nunca deben salir de un entorno dedicado.

El entorno seguro tiene que existir antes de la próxima urgencia

Las prohibiciones generales suelen llegar después del incidente: “no suban documentos”, “no usen cuentas personales”, “no compartan enlaces”. El problema es que el trabajo que llevó a la persona a buscar IA continúa. El informe sigue siendo urgente. El expediente sigue siendo largo. La ciudadanía sigue esperando una respuesta.

Si la entidad no ofrece una alternativa que resuelva esas tareas, el uso se vuelve informal y menos visible. La política puede decir que nadie utiliza IA mientras los funcionarios siguen haciéndolo desde teléfonos, navegadores y cuentas particulares.

Por eso la seguridad y gobernanza de IA debe acompañarse de una capacidad aprobada. El funcionario necesita saber dónde puede resumir un documento, consultar normativa, comparar versiones o preparar un borrador. La institución necesita conservar control sobre usuarios, espacios, fuentes, registros y publicación.

No todas las tareas exigen el mismo nivel de protección. Trabajar con una norma ya publicada no equivale a procesar un expediente con datos personales. Pedir ideas para una campaña educativa no equivale a evaluar una solicitud ciudadana. Un buen entorno permite clasificar usos y aplicar controles proporcionales, en lugar de tratar toda pregunta como inocua o toda IA como prohibida.

AgentticAI: una operación institucional, no otra cuenta suelta

AgentticAI para entidades de gobierno parte de una arquitectura distinta a la del uso individual disperso. La autoridad central define el marco; cada dependencia trabaja en su propio espacio protegido; los asistentes responden desde fuentes aprobadas; y la institución conserva visibilidad sobre quién puede hacer qué y qué acciones quedaron registradas.

Ese modelo atiende el problema que el reel deja sobre la mesa. No se limita a ofrecer un chat con IA. Crea una estructura para que el uso tenga dueño institucional:

• control central sobre dependencias, usuarios y límites;
• separación entre espacios, archivos, conversaciones y asistentes;
• conocimiento aprobado para reducir respuestas improvisadas;
• roles y permisos aplicados al trabajo;
• registro de cambios y actividad para revisión y auditoría;
• asistentes públicos e internos configurados según su audiencia;
• opciones de despliegue que pueden evaluarse según los requisitos de la entidad.

La sección de seguridad, auditoría y gobernanza de AgentticAI resume el criterio con una pregunta operativa: quién puede hacer qué, qué hizo cada persona y quién conserva los registros. Esa trazabilidad es la diferencia entre adoptar una herramienta y construir una capacidad institucional.

AgentticAI no elimina la responsabilidad de la entidad ni vuelve imposible todo error. Ninguna plataforma seria debería prometer eso. Todavía se necesitan clasificación de información, reglas de retención, responsables, capacitación, revisión humana y procedimientos de incidente. La plataforma sirve como arnés porque convierte esas decisiones en controles y espacios administrables, en vez de dejarlas únicamente en la memoria de cada funcionario.

La capacitación correcta empieza con el botón “Publicar”

Muchos programas de formación se concentran en cómo escribir mejores instrucciones. Eso ayuda a obtener respuestas, pero no enseña a proteger información. Un funcionario necesita reconocer qué cambia cuando pega un documento, crea un enlace, publica un artefacto, conecta una fuente o descarga un resultado.

La capacitación debería usar escenas reales de la institución. Por ejemplo: una unidad quiere resumir un borrador todavía no aprobado; un funcionario necesita comparar expedientes; otra persona prepara preguntas para una reunión; un equipo desea publicar un asistente para trámites. En cada caso hay que decidir qué entorno corresponde, qué datos pueden entrar, quién revisa la salida y qué evidencia debe conservarse.

También hace falta una ruta rápida para dudas. Si obtener autorización tarda semanas, la urgencia decidirá por la institución. Un responsable de gobernanza debe poder clasificar un nuevo uso, aprobar una prueba con datos ficticios o dirigir la tarea hacia el espacio controlado adecuado.

El próximo incidente probablemente será ordinario

La imagen más cómoda de un incidente de IA es la de un atacante sofisticado. En la práctica, puede empezar con alguien competente que intenta terminar su trabajo, encuentra útil una función de compartir y no entiende que el resultado pasó a ser contenido público.

Ese tipo de error no se corrige culpando a una persona después. Se reduce diseñando un entorno donde la opción segura sea la normal: identidad institucional, permisos mínimos, dependencias separadas, fuentes aprobadas, publicación restringida, registros duraderos y revisión antes de acciones sensibles.

La discusión para gobierno ya no debería ser si los funcionarios usarán inteligencia artificial. Muchos ya la usan. La pregunta es si la entidad seguirá dependiendo de cuentas y decisiones individuales o si establecerá un marco que pueda gobernar, auditar y mejorar.

Global Agenttic acompaña a instituciones en el diseño de IA aplicada y en la definición de entornos controlados para atención ciudadana y trabajo interno. Un piloto responsable puede empezar con una dependencia, un conjunto limitado de fuentes aprobadas y una tarea concreta, con criterios de seguridad y auditoría definidos antes de abrir el acceso. Para evaluar ese primer caso, puede solicitar un diagnóstico institucional.

Fuentes consultadas para este análisis

• Ivanna Zauzich (@ivannazau), reel original en Instagram.
• TechCrunch: conversaciones y artefactos compartidos de Claude encontrados en buscadores.
• Anthropic: prototipado y publicación de aplicaciones con Claude Artifacts.
• NIST: AI Risk Management Framework.
• AgentticAI para gobierno.
• AgentticAI: seguridad, auditoría y gobernanza.