Design Principles for LLM-based Systems with Zero Trust (Principios de Diseño para Sistemas Basados en LLM con Arquitectura de Confianza Cero)
Summary (Resumen)
The document establishes design principles for systems based on large language models (LLMs) applying the Zero-trust architecture approach. It is aimed at system architects, operators and authorities in both France and Germany, and seeks to mitigate risks such as evasion, poisoning and privacy attacks. It focuses on the application level of AI systems and proposes six principles: authentication and authorisation; input/output restrictions; sandboxing; monitoring, reporting and controlling; threat intelligence; and awareness. It does not prescribe specific technologies, but rather offers an adaptable framework for improving security in the development and operation of generative AI systems. [El documento establece principios de diseño para sistemas basados en modelos extensos de lenguaje (LLM) que aplican el enfoque de arquitectura de Confianza Cero. Está dirigido a arquitectos de sistemas, operadores y autoridades tanto de Francia como de Alemania y busca mitigar riesgos como la evasión, el envenenamiento y los ataques a la privacidad. Se centra en el nivel de aplicación de los sistemas de IA y propone seis principios: autenticación y autorización; restricciones de entrada/salida; sandboxing -areneras de pruebas-; monitoreo y control; inteligencia sobre amenazas; y concienciación. No prescribe tecnologías específicas, sino que ofrece un marco adaptable para mejorar la seguridad en el desarrollo y el funcionamiento de los sistemas de IA generativa] (BSI & ANSSI, 2025)
- Publication date of this record (Fecha de publicación de esta ficha)
Information About the Organization (Información Sobre la Organización)
Continent (Continente)
Continental Subregion (Subregión Continental)
Country or International Body (País u Organización Internacional)
Name of Subnational Territory (Nombre de territorio subnacional)
Not Applicable (No Aplica)
Public Body (Entidad Pública)
French National Agency for Information Systems Security (Agencia Nacional Francesa de Seguridad de los Sistemas de Información)
Government Branch (Rama del Poder Público)
COFOG Level I (COFOG Nivel I)
COFOG Level II (COFOG Nivel II)
Information About the Instrument (Información Sobre el Instrumento)
Type of Instrument (Tipo de Instrumento)
Start Year (Año de Inicio)
Version (Versión)
1 Update (1 Actualización)
Original Name of the Instrument (Nombre original del instrumento)
Design Principles for LLM-based Systems with Zero Trust
Institutional Scope (Ámbito Institucional)
Cross-cutting scope in the France and Germany (Alcance Transversal en Francia y Alemania)