Seguridad
Seguridad, aislamiento y controles de IA responsable
Dónde está cada defensa, qué ruta está permitida y qué ingreso se detiene en el límite.
Qué muestra
La ruta permitida es un camino pavimentado. El pedido de un usuario autenticado pasa por los controles de seguridad en un orden fijo, y después un filtro del lado del servidor, armado con los permisos de ese usuario, elige las fuentes de los estudios que puede ver.
El texto recuperado se trata como no confiable: un escudo revisa los fragmentos para detectar inyección indirecta de prompts antes de que lleguen al borrador. El paso de redacción corre con una identidad de mínimo privilegio que solo puede leer y recuperar.
Dos rutas se detienen en el límite de cumplimiento. Una pregunta que intenta ampliar su propio alcance en el texto no tiene efecto, porque el filtro nunca lee el texto. Una fuente remota o en preview, que sacaría datos del límite, no está en el camino de producción.
Este es un diseño de referencia para un asistente agéntico de preguntas y respuestas sobre ensayos clínicos. Es un diseño, no la descripción de un sistema construido tal como se muestra.
Decisiones clave
- El orden de los controles es un requisito duro, garantizado por la topología del grafo y no por convención.
- El filtro de aislamiento sale de los permisos y se aplica en la capa de consulta, no como posprocesamiento.
- El almacén de checkpoints es un límite de confianza: privado, cifrado, y nunca se carga desde una fuente no confiable.
- Producción usa solo servicios en disponibilidad general; los previews son para desarrollo y evaluación.