En muchas empresas alguien ya usa un asistente de IA para redactar correos, resumir un contrato o revisar código. El problema no es usarlo, sino hacerlo sin reglas. En 2023, el NCSC del Reino Unido advirtió que lo que se escribe en un asistente público queda visible para el proveedor y que casi con certeza se usará en algún momento para desarrollar el servicio. Su recomendación: no incluir información sensible en esas consultas.
La guía conjunta Engaging with Artificial Intelligence (enero de 2024), liderada por el centro de ciberseguridad de Australia junto a CISA, FBI, NSA, el NCSC británico y otras agencias, va en la misma línea: lo que se entrega a estos sistemas puede terminar en sus datos de entrenamiento e influir en respuestas a usuarios ajenos a la organización.
Este artículo resume los riesgos, qué preguntarle a un proveedor y una política de uso de una página que puedes adaptar. Cierra con una lista de verificación.
Los marcos de referencia
- NIST AI RMF 1.0 (enero de 2023): marco de uso voluntario para gestionar riesgos de IA, con cuatro funciones: gobernar, mapear, medir y gestionar. NIST indica que está en revisión.
- NIST AI 600-1 (julio de 2024): su perfil de IA generativa. Define 12 riesgos propios de esta tecnología o agravados por ella.
- OWASP Top 10 for LLM Applications 2025: pensado para quien construye aplicaciones con modelos de lenguaje, aunque varios de sus riesgos alcanzan a cualquier usuario. OWASP publicó en agosto de 2026 una edición 2026 con otra numeración; este artículo cita la de 2025.
- ISO/IEC 42001:2023 (diciembre de 2023): especifica requisitos para establecer, implementar, mantener y mejorar continuamente un sistema de gestión de IA. Según ISO, sirve a organizaciones de cualquier tamaño que desarrollen, provean o usen productos o servicios basados en IA.
Seis riesgos concretos
1. Filtración de datos confidenciales o personales
Es el riesgo más inmediato. OWASP lo describe en LLM02:2025: datos personales, financieros, de salud o información confidencial del negocio pueden quedar expuestos. NIST AI 600-1 agrega que los modelos pueden filtrar, generar o inferir correctamente información sensible sobre personas, incluso datos que nadie les entregó, cruzando fuentes distintas.
2. Alucinaciones
NIST las llama confabulación: contenido erróneo o falso presentado con seguridad, que puede engañar a quien lo lee. OWASP (LLM09:2025) suma la dependencia excesiva: confiar en el resultado sin verificarlo. La guía conjunta cita un caso de 2023: según se informó, un juez federal de Nueva York encontró al menos seis casos inventados en un escrito judicial, y el abogado los atribuyó a una investigación hecha con un asistente de IA.
3. Propiedad intelectual
NIST AI 600-1 advierte dos caras. Hacia afuera, la IA facilita producir o replicar contenido protegido por derechos de autor o marcas sin autorización, y la situación legal del contenido generado sigue en debate. Hacia adentro, facilita exponer secretos comerciales. La guía conjunta pide capacitar al personal sobre qué no se ingresa, como datos personales o la propiedad intelectual de la organización.
4. Sesgos
NIST describe la amplificación de sesgos históricos y sociales, y diferencias de desempeño entre grupos o idiomas que pueden llevar a discriminación o a decisiones mal fundadas. El NCSC también advierte que estos modelos pueden estar sesgados. Importa sobre todo cuando la IA participa en decisiones sobre personas: selección de postulantes, evaluaciones, crédito.
5. Dependencia de proveedores
NIST AI 600-1 incluye el riesgo de cadena de valor: se reutiliza un número limitado de modelos y se integran componentes de terceros, y cuando algo falla puede ser difícil saber de dónde viene. La guía conjunta recomienda conocer los compromisos de disponibilidad del proveedor, dejar en el contrato las responsabilidades ante incidentes y saber qué pasa con tus datos cuando termina la relación.
6. IA en la sombra
Es el uso de herramientas que nadie aprobó: cuentas personales, extensiones del navegador o funciones de IA dentro de programas que ya usas. Sin inventario no sabes qué datos salieron ni a quién. NIST AI 600-1 recomienda incluir la IA generativa en el inventario de sistemas, mantener listas de proveedores aprobados y extender las políticas de uso aceptable a contratistas y consultores.
Si conectas un asistente a tu correo o tus archivos, hay un riesgo más: OWASP (LLM01:2025) describe la inyección indirecta de instrucciones, que llega desde sitios web o archivos. Recomienda darle al modelo los permisos mínimos y exigir aprobación humana para operaciones privilegiadas.
Qué preguntarle al proveedor
Antes de aprobar una herramienta, pide respuestas por escrito. Las preguntas salen de la guía conjunta, del NCSC y de OWASP.
Pregunta | Por qué |
|---|---|
¿Usan mis entradas para entrenar el modelo? ¿Puedo excluirme? | La guía conjunta pide saberlo y considerar versiones privadas; OWASP recomienda permitir excluirse |
¿Cuánto tiempo guardan prompts, archivos y respuestas, y cómo se borran? | OWASP pide políticas claras de retención, uso y eliminación |
¿Qué pasa con mis datos al terminar el contrato? | Suele estar en la política de privacidad o los términos, según la guía conjunta |
¿Dónde se almacenan y procesan? | Los servicios en la nube pueden mover datos entre regiones |
¿Quién del proveedor o de sus socios puede verlos? ¿Se mezclan con los de otros clientes? | Son preguntas que plantea el NCSC |
¿Hay inicio de sesión único, MFA resistente al phishing, gestión central de cuentas y registros de uso? | La guía conjunta pide MFA resistente al phishing, mínimo privilegio y registro de entradas |
¿Qué disponibilidad comprometen y quién hace qué ante un incidente? | La guía conjunta pide dejarlo en el contrato |
¿Cómo desarrollaron y probaron el sistema? | La guía conjunta prefiere proveedores transparentes en eso |
Lee los términos y la política de privacidad del plan que vas a contratar, no los de la versión gratuita. El NCSC pide entenderlos a fondo antes de hacer consultas sensibles.
El marco en Chile
La Política Nacional de Inteligencia Artificial se publicó en 2021 con tres ejes: factores habilitantes, desarrollo y adopción, y gobernanza y ética. Según el Ministerio de Ciencia, el avance de la IA generativa motivó en 2023 una actualización del eje de gobernanza y ética.
No hay todavía una ley de IA. El proyecto que regula los sistemas de inteligencia artificial (boletín 15869-19, refundido con el 16821-19) fue despachado por la Cámara de Diputados el 13 de octubre de 2025. Al 4 de noviembre de 2026 está en segundo trámite en el Senado, en primer informe de la Comisión de Desafíos del Futuro.
La Ley 21.719, que modifica la Ley 19.628 de datos personales, sí toca este tema. Define el tratamiento de datos como cualquier operación que permita recolectar, procesar, almacenar, comunicar, transmitir o utilizar datos personales: copiar datos de clientes en un asistente externo cabe ahí. Su artículo 15 bis regula el tratamiento a través de un tercero encargado, que debe seguir las instrucciones del responsable y no puede usar los datos para otro objeto. El 8° bis da al titular derecho a oponerse a decisiones basadas en tratamiento automatizado que le afecten significativamente, con excepciones. La ley rige desde el 1 de diciembre de 2026. El Senado aprobó el 28 de octubre de 2026 un proyecto (boletín 18.623-07) que la posterga al 15 de octubre de 2027 y está en segundo trámite en la Cámara; mientras no se publique, la fecha vigente es el 1 de diciembre de 2026. Esto resume textos legales; no es asesoría legal.
Política de uso de IA generativa (una página)
Copia, completa lo que está entre corchetes y ajústala. Que quepa en una hoja: una política que nadie lee no sirve.
Política de uso de IA generativa · [Empresa] · versión [1.0] · [fecha]
- Alcance. Aplica a trabajadores, contratistas y consultores que usen herramientas que generan texto, imágenes, audio o código, incluidas las funciones de IA de programas que ya usamos.
- Herramientas aprobadas. Solo se usan las del registro de herramientas aprobadas, con cuentas de la empresa, nunca personales. Para agregar una, se pide a [responsable de TI], que hace las preguntas al proveedor antes de aprobarla.
- Datos que nunca se ingresan en una herramienta no aprobada para ellos: datos personales de clientes, trabajadores o postulantes; datos sensibles, como salud, biométricos o situación socioeconómica; contraseñas, llaves de API y tokens; información financiera no publicada; documentos bajo acuerdo de confidencialidad; código fuente propio; configuraciones de seguridad y vulnerabilidades.
- Revisión humana. Una persona revisa todo resultado antes de enviarlo, publicarlo o ejecutarlo, y verifica cifras, citas, referencias legales y código. Quien lo usa responde por él.
- Decisiones sobre personas. La IA no decide sola sobre contratación, evaluación, crédito u otros asuntos que afecten a una persona. Decide una persona que puede explicar el fundamento.
- Propiedad intelectual. No se ingresa material de terceros que no tengamos derecho a usar. Antes de publicar contenido generado, se revisa que no reproduzca obras o marcas ajenas.
- Conexiones y permisos. Ningún asistente se conecta a correo, archivos o sistemas internos sin aprobación de [responsable de TI] y con permisos mínimos. Enviar, borrar o pagar requiere confirmación humana.
- Incidentes. Si ingresaste algo que no correspondía o ves un resultado extraño, avisa a [responsable] el mismo día. Reportar no se castiga.
- Responsables. Dueño de la política: [gerencia]. Registro de herramientas y permisos: [TI]. Datos personales y contratos: [legal o encargado de datos]. Se revisa cada [seis] meses o cuando cambie una herramienta.
El registro puede ser una planilla: herramienta y plan contratado, usos permitidos, datos permitidos, responsable, fecha de aprobación y de próxima revisión. NIST AI 600-1 sugiere anotar también los roles de supervisión humana y las consideraciones sobre propiedad intelectual y datos personales o confidenciales.
Lista de verificación
# | Acción | Responsable |
|---|---|---|
1 | Inventario de herramientas de IA en uso, incluidas cuentas personales y funciones de IA en programas existentes | TI |
2 | Preguntas al proveedor respondidas por escrito para cada herramienta | TI y legal |
3 | Términos y política de privacidad del plan contratado leídos y archivados | Legal |
4 | Política de una página aprobada y comunicada | Gerencia |
5 | Registro de herramientas aprobadas publicado y con dueño | TI |
6 | Cuentas de la empresa con MFA en cada herramienta aprobada | TI |
7 | Capacitación breve: qué datos no se ingresan y cómo verificar resultados | Gerencia y TI |
8 | Usos con datos personales revisados frente a la Ley 21.719 | Legal |
9 | Asistentes conectados a correo o archivos con permisos mínimos y aprobación humana | TI |
10 | Incidentes con IA incluidos en el plan de respuesta | TI y gerencia |
11 | Revisión de la política agendada | Gerencia |
La guía conjunta pide que el plan de respuesta a incidentes cubra los problemas que surjan de los sistemas de IA o que los afecten. Si no tienes uno, puedes partir del plan de respuesta a ransomware.
Fuentes
- NCSC · ChatGPT and large language models: what's the risk? (14 de marzo de 2023).
- ACSC, CISA, FBI, NSA, NCSC-UK y otros · Engaging with Artificial Intelligence (enero de 2024), vía el NCSC de Nueva Zelanda.
- NIST · AI Risk Management Framework.
- NIST · AI 600-1, Generative Artificial Intelligence Profile (julio de 2024).
- OWASP · Top 10 for LLM Applications 2025 y edición 2026.
- OWASP · LLM01:2025 Prompt Injection.
- OWASP · LLM02:2025 Sensitive Information Disclosure.
- OWASP · LLM09:2025 Misinformation.
- ISO · ISO/IEC 42001:2023.
- Ministerio de Ciencia · Política Nacional de Inteligencia Artificial.
- Senado · Tramitación del boletín 15869-19.
- BCN · Ley 21.719.
- Senado · Tramitación del boletín 18.623-07.
- Senado · Oficio a la Cámara con el proyecto aprobado, boletín 18.623-07.
En Astrum la ciberseguridad es nuestra línea central. Si quieres revisar cómo se protegen los datos de tu empresa al usar estas herramientas, conversemos.