«¿Están seguros nuestros datos?» es la primera pregunta en casi todos los proyectos de IA, y a menudo la que se responde con menos precisión. La respuesta honesta depende de por dónde fluyen realmente los datos, y un sistema de IA tiene más paradas por el camino de las que la mayoría espera.
Los seis lugares donde pueden acabar sus datos
Tomemos un asistente de conocimiento típico que responde a preguntas de los empleados a partir de documentos internos. Los datos pasan por:
- Los sistemas de origen: SharePoint, el gestor documental, el ERP. Estos ya tienen responsables y reglas de acceso.
- El proceso de ingesta, que extrae los documentos y los divide en fragmentos.
- El modelo de embeddings, que convierte cada fragmento en un vector para la búsqueda. Si es una API en la nube, todos los documentos pasan por ella.
- La base de datos vectorial, que guarda esos fragmentos y vectores, a menudo como copia de contenido sensible.
- El modelo de lenguaje, que recibe la pregunta más los fragmentos recuperados en cada solicitud.
- Los registros y trazas, que guardan prompts y respuestas para depuración y control de calidad, y son el lugar donde los datos sensibles se acumulan sin que nadie lo note con más frecuencia.
Cada uno de ellos es un lugar de tratamiento en el sentido de la Ley suiza de Protección de Datos (nLPD) y del RGPD. Cada uno necesita respuesta a tres preguntas: ¿dónde está, quién lo opera y cuánto tiempo se conservan los datos?
Primero los contratos
En cuanto un proveedor externo trata datos personales por cuenta de usted, necesita un contrato de encargo del tratamiento según el art. 9 nLPD y el art. 28 RGPD. En la práctica, eso significa:
- Un contrato de encargo con su socio de implementación, que regule qué puede ver y hacer durante el proyecto.
- Una lista de subencargados: el proveedor de nube, el proveedor del modelo, la herramienta de monitorización. Usted debería aprobar esta lista y sus cambios.
- Para cualquier proveedor fuera de Suiza y de la UE, una comprobación de la base jurídica de la transferencia, como una decisión de adecuación o las cláusulas contractuales tipo.
Un NDA protege secretos comerciales; no sustituye a un contrato de encargo para los datos personales. Normalmente necesita ambos.
Decisiones de diseño que mantienen los datos bajo control
Los contratos fijan las reglas; la arquitectura decide cuánto está en juego. Las decisiones más importantes:
Elija la región a conciencia. Los grandes proveedores de nube tienen centros de datos en Suiza, y varios ofrecen modelos de lenguaje en regiones suizas o de la UE. Cuando no hay un modelo capaz en la región que necesita, los modelos de pesos abiertos pueden funcionar en su propia infraestructura o en una nube suiza.
Desactive lo que no necesita. Muchas API de modelos ofrecen opciones de retención cero de datos y excluyen por defecto del entrenamiento los datos de clientes empresariales. Confirme ambas cosas por escrito y configúrelas de forma explícita, en lugar de confiar en valores por defecto que pueden cambiar.
Minimice antes de enviar. No todos los campos tienen que llegar al modelo. Nombres, números de cuenta y direcciones pueden sustituirse a menudo por marcadores antes de la solicitud y restaurarse después. El modelo sigue haciendo su trabajo; el proveedor nunca ve los identificadores.
Respete los permisos existentes. Un asistente de conocimiento no debe convertirse en una forma de saltarse las reglas de acceso. Cada respuesta debe construirse solo con documentos que el usuario que pregunta puede ver, y eso se impone en el momento de la recuperación, no pidiéndole al modelo que sea discreto.
Trate los registros como datos sensibles. Enmascare los datos personales en las trazas, fije un plazo de conservación y limite quién puede leerlas. Los registros de depuración guardados para siempre son un hallazgo habitual en las auditorías.
Planifique la salida. Al final del proyecto, los datos se devuelven o se borran, incluidas las copias en bases de datos vectoriales, copias de seguridad y entornos de prueba, y el borrado se confirma por escrito.
Un mapa de datos en una página
Antes de que fluya ningún dato real, elaboramos un mapa del sistema en una página: cada componente, su ubicación, quién lo opera, qué datos ve y cuánto tiempo los conserva. Es el documento que le pedirá su delegado de protección de datos, simplifica el registro de actividades de tratamiento y convierte «¿están seguros nuestros datos?» en una pregunta con una respuesta concreta y comprobable.