Saltar al contenido
focoit.com
Volver a los diagramas

Seguridad

Seguridad, aislamiento y controles de IA responsable

Dónde está cada defensa, qué ruta está permitida y qué ingreso se detiene en el límite.

Seguridad, aislamiento y controles de IA responsable Un camino pavimentado y seguro. Un usuario autenticado pasa por controles de seguridad ordenados y por un filtro del lado del servidor armado con sus permisos, hacia fuentes aisladas por estudio; los fragmentos recuperados se revisan para detectar inyección indirecta de prompts antes de redactar. Un intento de ampliar el alcance desde el texto escrito y una fuente remota o en preview se detienen en el límite de cumplimiento. Cada paso se guarda en un almacén privado de checkpoints y en un almacén de auditoría y cumplimiento. INGRESO NO CONFIABLE LÍMITE DE CUMPLIMIENTO · SOLO SERVICIOS GA INFRAESTRUCTURA PRIVADA · RBAC Usuario autenticado usuario · agente MCP Entra ID Fuente remota / preview fuera del límite Controles ordenados PII → Shield → filtro → veredicto el orden es la topología del grafo, no una convención Borrador → veredicto → entrega identidad de mínimo privilegio solo lectura y recuperación Filtro por permisos del lado del servidor armado con los permisos, nunca con el texto escrito Fuentes por estudio 1 índice / estudio Escudo de fragmentos revisa inyección indirecta antes de redactar Almacén de checkpoints un límite de confianza: cifrado, sin cargas no confiables Auditoría + cumplimiento App Insights · inmutable registro de actividad + tokens PEDIDO PREGUNTA FILTRADA POR PERMISOS FRAGMENTOS REVISADOS GUARDAR CADA PASO ALCANCE DESDE EL TEXTO FUENTE EN PREVIEW: BLOQUEADA REFERENCIAS Ruta permitida Bloqueado en el límite Auditoría / guardado Control de seguridad Punto de control Almacén privado
Diseño de referenciaAbrir en tamaño completo

Qué muestra

La ruta permitida es un camino pavimentado. El pedido de un usuario autenticado pasa por los controles de seguridad en un orden fijo, y después un filtro del lado del servidor, armado con los permisos de ese usuario, elige las fuentes de los estudios que puede ver.

El texto recuperado se trata como no confiable: un escudo revisa los fragmentos para detectar inyección indirecta de prompts antes de que lleguen al borrador. El paso de redacción corre con una identidad de mínimo privilegio que solo puede leer y recuperar.

Dos rutas se detienen en el límite de cumplimiento. Una pregunta que intenta ampliar su propio alcance en el texto no tiene efecto, porque el filtro nunca lee el texto. Una fuente remota o en preview, que sacaría datos del límite, no está en el camino de producción.

Este es un diseño de referencia para un asistente agéntico de preguntas y respuestas sobre ensayos clínicos. Es un diseño, no la descripción de un sistema construido tal como se muestra.

Decisiones clave

  • El orden de los controles es un requisito duro, garantizado por la topología del grafo y no por convención.
  • El filtro de aislamiento sale de los permisos y se aplica en la capa de consulta, no como posprocesamiento.
  • El almacén de checkpoints es un límite de confianza: privado, cifrado, y nunca se carga desde una fuente no confiable.
  • Producción usa solo servicios en disponibilidad general; los previews son para desarrollo y evaluación.