Saltar al contenido principal

Agentes y gobernanza

Tietai incluye un catálogo de agentes predefinidos y un conjunto de controles para cada uno. Esta página explica la función de cada control, su configuración predeterminada y dónde modificarla. Para crear un agente, consulte Crear y ejecutar un agente.

Varios de estos controles están desactivados o configurados solo para auditoría de forma predeterminada. Esto se indica en cada uno de ellos, ya que un control que solo registra información no protege nada.


Qué es un agente​

Un agente es un modelo de lenguaje con una solicitud, un conjunto de herramientas que puede utilizar (por ejemplo, una consulta FHIR o una búsqueda en PubMed) y, opcionalmente, subagentes. Funciona en un bucle: piensa, llama a una herramienta, observa el resultado y repite el proceso hasta que pueda responder.

Encuentra agentes en el punto Tiet · Agentic → Agents, chatea con ellos en el Agent Workspace, revisa las carreras en el Monitor y decide sobre las propuestas SEPL pendientes en el Reviews. Las cuatro opciones se encuentran en el punto Tiet · Agentic → Agents de la barra lateral.

El catálogo base cuenta con aproximadamente 110 agentes que abarcan codificación y facturación, apoyo a la toma de decisiones clínicas, documentación, enfermería, farmacia, atención especializada, operaciones, investigación, telemedicina, cumplimiento normativo, rehabilitación, profesiones paramédicas y otras. Tres de ellos (Optimizador del ciclo de ingresos, Orquestador del flujo de trabajo clínico y Gestión de enfermedades crónicas) son agentes individuales que coordinan a otros agentes a través de su lista de subagentes.

Puedes ejecutar un agente directamente, llamarlo a través de la API, colocar un nodo Agent Executor en un flujo de trabajo o diseñar un gráfico de agente de varias etapas (Crear un gráfico de agente).

Versiones​

La versión desplegada de un agente permanece congelada. Un cambio es una nueva versión preliminar que solo llega al agente en ejecución cuando se despliega, y todas las versiones se mantienen legibles. El gráfico del agente funciona de la misma manera: una versión publicada nunca cambia. Encontrará más detalles en Crear y ejecutar un agente.

Al volver a ejecutar una versión del gráfico, se utilizan las mismas indicaciones y versiones de las herramientas, pero la salida del modelo aún puede variar entre ejecuciones.


Cuánto puede hacer un agente: límites de autonomía​

Cada ejecución de agente y cada ejecución de gráfico resuelve un límite de autonomía. Cada herramienta y cada manejador de gráfico fijo tiene una clase de efecto, y el límite decide qué clases puede usar la ejecución.

Límites de autonomía: research_only siempre se aplica, proposal se aplica solo cuando HYDRA_AUTONOMY_ENFORCEMENT está activado, autonomous permite todas las clases

TechoClases de efectos permitidasCuando una carrera lo consigue
research_onlyleer, registro_de_investigaciónEl agente o gráfico declara research_only en su bloque de cumplimiento.
proposeleer, registro_de_investigación, proponerEl agente está regulado o afecta el resultado clínico, o tiene cualquier compliance_level que no sea vacío o none. Un gráfico sin bloque de cumplimiento también obtiene propose.
autonomouscada clase, incluyendo la escrituraTodo lo demás.
  • Read es una búsqueda sin efectos secundarios. research_record escribe solo en el almacén de resultados de la investigación. Propose crea algo que una persona debe decidir (el controlador de gráficos fhir.propose y request_access). Write cambia un sistema clínico u operativo o se pone en contacto con una persona.
  • Una herramienta que no tiene ninguna entrada en la tabla de efectos se considera escritura, por lo que nunca se permite silenciosamente una herramienta nueva o mal escrita.
  • Una ejecución anidada (un agente que delega, o un grafo que ejecuta un agente) toma el límite más estricto entre su propio límite y el de su padre. Una ejecución de agente cuyo llamador no resolvió ningún límite se ejecuta como propose.
  • Una herramienta que supere el límite se elimina de la lista que se le ofrece al modelo y se rechaza nuevamente si el modelo la llama de todos modos. Un rechazo escribe un registro runtime.tool_denied en la cadena de auditoría y un evento tool_denied en la ejecución.

Donde importa el modo de aplicación de la ley​

Siempre se aplica research_only. El límite superior propose sigue HYDRA_AUTONOMY_ENFORCEMENT:

ValorEfecto sobre el techo propose
no establecido o audit (predeterminado)La herramienta de escritura sigue en ejecución. El posible rechazo se registra como un registro mode: audit.
enforce, o cualquier otro valorLas herramientas de escritura se han eliminado y rechazado.

En una instalación predeterminada, un agente clínico aún puede llamar a una herramienta de escritura; el límite superior solo registra lo que no debería. El perfil de implementación pilot-clinical requiere enforce. Revise los registros de auditoría en un sistema de producción antes de cambiarlo.

Un agente que sea research_only tampoco puede ejecutarse dentro de una consulta, y una canalización que ejecute uno puede contener solo nodos read y research_record; se rechaza con HTTP 422 antes de que comience.

Los agentes de catálogo como Laboratory Results Interpreter y Drug Interaction Checker llevan compliance_level: hipaa, por lo que se resuelven en propose.


Indicadores de automejora, bajo control humano.​

SEPL (Bucle de solicitud autoevolutivo) propone mejoras para la solicitud, las herramientas o la configuración de un agente, las prueba en una copia y solo las confirma si las comprobaciones lo permiten. Puede modificar solicitudes, definiciones de herramientas y configuraciones de agentes, no solo solicitudes.

Ciclo SEPL: activación, reflexión y selección, mejora a una versión sombra, evaluación, comprobación de invariantes, luego la puerta de confirmación envía el candidato a confirmación, revisión humana, rechazo o no confirmación.

Disparadores. Un ciclo comienza con un evento sepl.evolve.request, con un evento Run Evolution en la pestaña Evolution del agente, o automáticamente cuando la tasa de éxito de un agente disminuye durante un período de tiempo determinado. SEPL no se controla mediante variables de entorno.

Etapas.

  1. Reflexiona y selecciona. Analiza los registros de ejecución recientes, clasifica las hipótesis sobre qué está fallando y elige la que ofrece mayor confianza.
  2. Mejorar. Un LLM escribe una versión en la sombra. El agente activo no se modifica.
  3. Evaluación. Reproduce las entradas anteriores comparándolas con la sombra. La sombra solo supera la prueba si tanto task_success_rate como schema_adherence mejoran la versión en vivo.
  4. Comprueba las invariantes. El servidor realiza una comprobación, la delta de permisos. Una propuesta que añade un subagente, aumenta a max_sub_agent_depth o el modo HAGP, reduce o cambia un indicador de cumplimiento, expone el agente como un punto final de inferencia, activa la memoria o cambia el destino del modelo se pone en cola para su revisión humana en todos los modos y nunca se confirma por sí sola.
  5. Puerta de confirmación. El resultado depende del HAGP mode del agente.
Modo HAGP¿Qué le sucede a un candidato?
offNada ha evolucionado.
rspl_onlySolo control de versiones; sin confirmación de cambios.
proposeEn cola para revisión humana; nunca se confirma automáticamente.
autonomousSe confirma si Eval y las invariantes se superan.

El modo que configure está limitado por un tope de cumplimiento. Un agente regulado, o uno que afecte al resultado clínico, puede ser como máximo propose, incluso si se selecciona autonomous La pestaña Evolución muestra entonces "Modo degradado a propuesta (tope de cumplimiento: propuesta)".

Donde trabajas con él. Abre el agente, luego Evolution. Configura HAGP Mode (Desactivado, Solo RSPL, Proponer, Autónomo). Run Evolution está habilitado solo en Proponer o Autónomo. SEPL Parameters son Iteraciones máximas, Rondas de estancamiento, Tiempo de espera (minutos), Límite de costo (USD) y Confianza mínima. Las propuestas pendientes aparecen debajo de Pending Reviews con la solicitud actual y la propuesta una al lado de la otra; cada una tiene Approve y Reject (Confirm Reject, con una justificación opcional). Aprobar hace que la sombra sea la versión en vivo. Debajo de eso, SEPL Evolution History enumera ejecuciones anteriores y sus resultados: Aceptado, En cola para revisión, Rechazado, Estancamiento, Sin hipótesis, Tiempo de espera y Ya en ejecución.

El estancamiento, el límite de coste y el tiempo de espera son ajustes por agente, no variables de entorno. Tras el número configurado de rondas consecutivas sin mejora, la evolución de ese recurso se detiene.

Cola de revisiones. Tiet · Agentic → Agents → Reviews ("Revisiones de confirmación SEPL") enumera todas las propuestas que esperan una decisión humana en todos sus agentes, por lo que no tiene que abrir cada agente. Necesita permiso de lectura o actualización en los agentes. Cada fila muestra el estado de la propuesta, la confianza, la versión en sombra, si Eval y las invariantes pasaron, un icono de escudo cuando es relevante para el cumplimiento y un enlace Open agent Claim se la asigna a usted (se muestra solo cuando no está asignada). Approve activa la versión propuesta. Reject solicita una justificación de al menos 10 caracteres aquí (la pestaña Evolution acepta una vacía; el servidor sustituye "Rechazado a través de Hydra Studio" por cualquier cosa más corta que 10 caracteres) y registra el rechazo, lo que inicia el tiempo de espera del agente. Cuando no hay nada esperando, la página dice "No hay revisiones pendientes". La lista se actualiza cada 30 segundos, o use Refresh.

nota

La guía SEPL ascendente dice que las revisiones son menores de Studio → Settings → SEPL Reviews. No hay tal pantalla; las colas son Agents → Reviews (todos los agentes) y la pestaña Evolution del agente (un agente).

El código de SEPL también incluye un paquete de sondas adversarias (inyección de prompts, jailbreak, fuzzing de esquemas, estrés de límites) y otras invariantes (SBOM, análisis estático, compatibilidad de esquemas, lista de dominios permitidos). El servidor no importa el paquete de sondas, y la guía original indica que las invariantes adicionales no están integradas en el ejecutor actualmente, así que no cuente con ellas.


Controlar qué agentes pueden alcanzar​

Dos mecanismos distintos limitan el tráfico saliente. Se aplican a diferentes elementos. (El motor de políticas de salida también evalúa las llamadas al proveedor del modelo y las llamadas a los servicios de respaldo de la propia plataforma, como el servicio DICOM; véase el final de la sección de salida).

Política de salida de herramientas​

Open Platform → Egress policy. Controla qué hosts, métodos HTTP y rutas puede llamar cada herramienta de agente.

  • La plataforma Platform rules herramientas integradas (por ejemplo, PubMed, ClinicalTrials.gov). Puedes consultarlas en la pestaña Platform rules, pero no puedes modificarlas.
  • Organization rules es un documento YAML que editas en la pestaña Organization rules, añadido encima de las reglas de la plataforma. Las reglas vinculan un sujeto (una herramienta, conector o entorno aislado) a puntos finales (host, puerto y, para REST, métodos y rutas). Una solicitud que ninguna regla permite se deniega, y una regla de denegación coincidente siempre prevalece. Validate verifica el documento; Save lo guarda como una nueva revisión con la nota de cambio que escribas. La pestaña History guarda todas las revisiones, y puedes revertir los cambios guardando un documento anterior.
  • La pestaña Suggestions muestra las solicitudes rechazadas, o que habrían sido rechazadas en modo auditoría, en los últimos 30 días, con la regla más estricta que permitiría cada una. La pestaña Load suggested rules into editor las envía al editor para su revisión.
  • Un cambio que amplía el acceso (un nuevo destino, más métodos o rutas, una regla de denegación eliminada o una aplicación más flexible para auditoría) no se guarda inicialmente. Devuelve un paso de revisión con los resultados de los permisos, que usted confirma y vuelve a enviar. Un cambio que solo restringe el acceso se guarda directamente.
  • Las direcciones de bucle invertido, los metadatos en la nube y las direcciones privadas no fijadas siempre se rechazan, independientemente de lo que diga la política.

Effective mode (parte superior derecha de la página) es Audit o Enforce. La organización puede heredar el modo de plataforma o anularlo. La página lo dice claramente: "Auditoría registra lo que sería rechazado; enforce lo rechaza". El valor predeterminado de la plataforma, establecido por HYDRA_EGRESS_ENFORCEMENT, es auditoría, que registra una advertencia de "sería denegado" y no bloquea nada. En enforce, las solicitudes denegadas son rechazadas, excepto en los puntos finales cuyo propio enforcement sigue siendo audit. El valor off existe solo a nivel de plataforma y deja solo la capa de denegación estricta.

Las llamadas al proveedor del modelo (sujeto model:<provider>) y las llamadas al servicio de la plataforma (service:tietai-dicom-service) pasan por el mismo motor, pero están limitadas a auditoría por defecto, según HYDRA_EGRESS_MODEL_ENFORCEMENT y HYDRA_EGRESS_SERVICE_ENFORCEMENT, por lo que una posible denegación se registra, no se bloquea, hasta que se establece enforce. Una limitación nunca aumenta el modo de la plataforma. Agregue reglas para los puntos finales del modelo autohospedados (vLLM, Ollama) antes de aplicarlas.

Antes de cambiar una organización al modo de aplicación obligatoria, agregue reglas para cada conector (la pestaña Sugerencias le será útil), o esos conectores dejarán de funcionar.

Un nodo del gráfico con valor access_requests: true puede solicitar un destino que fue rechazado. Esto implica una revisión humana que solo un administrador de salida de la organización puede aprobar; la aprobación agrega la regla como una nueva revisión.

Protección de salida de PHI (llamadas modelo)​

Este bloqueo es independiente de la política de la herramienta. El texto que va a un modelo pasa por HYDRA_PHI_EGRESS_MODE antes de salir del proceso. Cubre toda la solicitud: solicitud del sistema, historial, resultados de la herramienta y texto adjunto. Predeterminado deid:

ModoEfecto sobre un punto final de un modelo no interno
deid (predeterminado)El texto se anonimiza; si esto no es posible, la llamada se cierra. Se rechazan las imágenes, el audio y los archivos.
blockRechazado.
allowlistPermitido solo para hosts en HYDRA_PHI_EGRESS_ALLOWED_HOSTS.
offSin aplicación de la ley. No apto para la producción.

El contenido genómico (expresiones HGVS, VCF/BAM/CRAM, drs:// uris, la etiqueta GERMLINE) enviado a un punto final no permitido se rechaza en todos los modos excepto off, con la razón genomic_content; nunca se desidentifica para que pase.

Un punto final alojado con el que tenga un contrato de procesamiento, como un host regional de Vertex AI, debe figurar en la lista HYDRA_PHI_EGRESS_ALLOWED_HOSTS; de lo contrario, el valor deid anonimiza lo que se le envía. Los hosts comerciales de SaaS de LLM nunca están permitidos en la lista.

Lo que no está construido​

Los agentes no utilizan credenciales de marcador de posición. En un borrador del documento de diseño se describe un diseño para la "vinculación de credenciales", donde el modelo solo ve un marcador de posición y la clave secreta real se inyecta en el momento de la llamada; sin embargo, el código de salida no contiene dicho mecanismo. No asuma que los argumentos de la herramienta están libres de secretos. Las credenciales para los conectores se resuelven en el servidor mediante el conector, no se introducen en las solicitudes.

Los cambios en los permisos de un agente siguen una regla de delta de permisos: agregar una herramienta que pueda actuar, ampliar una política de salida o una propuesta SEPL que amplíe el acceso genera resultados que una persona debe confirmar. Para la asignación de herramientas de agente y la publicación de gráficos, si esto se aplica se establece en HYDRA_PERMISSION_DELTA_MODE. Para la política de salida y las propuestas SEPL, siempre está activado.


Cuando un modelo falla​

Model fallback, la protección contra bucles y las ejecuciones duraderas son características de los nodos del gráfico de agentes. Un solo agente no las tiene.

Modelo de reserva: el cliente proveedor lo intenta dos veces; luego, si el error lo permite, se intenta con un modelo de reserva declarado; de lo contrario, el paso falla.

Modelo de reserva. Un nodo LLM puede declarar hasta 3 fallback_models. Se prueban en orden cuando la llamada al modelo falla con limitación de velocidad (429), un error del servidor (408 o 5xx), un fallo de transporte, 402 o 404. Nunca se prueban para 401, 403 o una solicitud incorrecta, porque otro modelo ocultaría un error de configuración, ni para presupuesto o rechazos de salida. No se sustituye nada a menos que el nodo lo declare. Cada salto es verificado por el guardia de salida PHI y la política de salida para su propio punto final, por lo que un modelo de reserva que la política rechaza nunca recibe la solicitud. El paso registra step.model_fallback y model_used, y cada salto gasta presupuesto, por lo que max_model_calls limita la cadena. Solo nodos de bucle de herramientas estándar; los nodos RLM y ParSer lo ignoran. Antes de cualquier modelo de reserva, el cliente proveedor vuelve a intentar los errores transitorios por sí mismo (dos reintentos para los SDK de OpenAI y Anthropic y el adaptador Gemini).

Durable runs están desactivados por defecto. Con HYDRA_GRAPH_DURABLE_RUNS=true y un nodo marcado con retry_safe, una ejecución puede pausarse para que un humano tome una decisión y reanudarse, incluso después de un reinicio. Sin ellos, una ejecución no espera.

Loop protection está desactivado por defecto y se configura por versión del gráfico, ya que cada opción cambia lo que lee el modelo:

  • wrap_up_turn: Cuando un nodo gasta todas sus rondas de herramientas llamando a otras herramientas, realiza una llamada al modelo adicional para que responda con la información disponible e indique qué le falta. Sin ella, el nodo finaliza sin contenido y falla.
  • repeat_advisory: cuando la misma llamada a la herramienta devuelve el mismo resultado dos veces seguidas, se lo indica al modelo. La llamada se sigue ejecutando.
  • untrusted_fence: la herramienta de envoltura genera marcadores que los identifican como datos, no como instrucciones.

Siempre se emite step.rounds_exhausted cuando un nodo se queda sin rondas.

Presupuestos de gasto. Una organización puede definir un presupuesto de gasto para un agente o gráfico. Cuando se agota un presupuesto fijo activo, se rechaza un nuevo turno del agente o ejecución del gráfico; las ejecuciones que ya están en curso nunca se detienen.


Cumplimiento de la IA​

Tiet · Agentic → Compliance es el espacio de trabajo de gobernanza para sistemas de IA, orientado a la Ley de IA de la UE y al Reglamento de Dispositivos Médicos de la UE (MDR). Se abre en un Overview (mosaicos para sistemas gobernados, evaluados, de alto riesgo o críticos, controlados, incidentes abiertos y registros de auditoría, y luego la matriz de riesgo de políticas) y tiene seis pestañas más, cada una también una entrada en la barra lateral. El encabezado tiene Run reconcile (resincroniza los sistemas registrados automáticamente) y Register external system. La pestaña Audit solo se muestra a los usuarios que pueden ver la cadena de auditoría.

PestañaLo que hace
SystemsEl inventario. Los agentes, gráficos, modelos registrados, conectores con IA y herramientas LLM se registran automáticamente y se mantienen actualizados con su estado real. Los sistemas externos o adquiridos se registran manualmente con Register external system, cuyo cuadro de diálogo se titula "Registrar sistema de IA externo" (nombre, tipo de sistema, origen, proveedor, uso previsto, contexto clínico, orientado al paciente, propietarios). Cada uno muestra su nivel de riesgo y modo HAGP.
PoliciesPaquetes de políticas (que incluyen subconjuntos de la Ley de IA de la UE y el Reglamento de Dispositivos Médicos de la UE) que enumeran los requisitos y controles, con la evidencia necesaria para cada control.
GateConjuntos de evaluación previos al lanzamiento. Run gate ejecuta un perfil (línea base, completo o implementación) y emite un Verdict firmado: Aprobado, condicional o reprobado. Una ejecución requiere una evaluación de riesgos aprobada previamente.
WatchLos monitores ejecutan nuevamente las pruebas según un cronograma y detectan desviaciones con respecto a la línea base de Gate. Se configuran los monitores predeterminados después de que una ejecución de Gate establece una línea base. Si se confirma una desviación, se abre un incidente.
CAPAMedidas correctivas y preventivas. Véase a continuación.
AuditLa cadena de auditoría a prueba de manipulaciones. Verify chain la verifica e informa "Cadena de auditoría intacta" o el primer registro erróneo.

CAPA​

La pestaña CAPA enumera las acciones correctivas y preventivas con Number, Title, Status, Owner, Due y Source (Incidente, Fallo de puerta, Hallazgo de auditoría, Queja o Manual), filtradas por estado, con una insignia Overdue Open CAPA (para usuarios que pueden gestionar el cumplimiento) solicita un título, origen, descripción del problema, responsable, fecha de vencimiento, un sistema de IA vinculado opcional y referencia de riesgo ISO 14971, y el ID del incidente cuando el origen es un incidente. Una CAPA avanza a través de Open → Investigating → Actions planned → Implementing → Verifying effectiveness → Closed, con un paso atrás para rehacer en cada una de las etapas intermedias; Cancel CAPA está disponible desde cualquier estado excepto Cerrado y necesita una razón, y una CAPA Cerrada puede reabrirse a Investigando, también con una razón. Cancelado es definitivo. Las CAPA Cerradas y canceladas ya no se pueden editar. Dentro de un CAPA se registra la causa raíz y su método (5 porqués, diagrama de Ishikawa, análisis de árbol de fallas, entre otros), las acciones (corrección, correctiva, preventiva o acción correctiva de seguridad en campo, cada una con un responsable, fecha de vencimiento y estado), el criterio de efectividad y, en la etapa de verificación, el resultado de efectividad (Efectivo o Ineficaz), y los registros vinculados. Close CAPA requiere la autorización de revisión de cumplimiento y sigue una regla de doble verificación: ni el responsable del CAPA ni ningún responsable de la acción pueden cerrarlo.

precaución

La aplicación de Gate es opcional. Si HYDRA_COMPLIANCE_GATING desactiva (valor predeterminado), Gate sigue ejecutando conjuntos de pruebas y registrando los veredictos firmados, pero no se bloquea nada: la promoción del modo HAGP de un agente, la aceptación automática de SEPL y la publicación de gráficos se comportan como si el módulo no existiera. Cuando se activa, estas tres funciones requieren un veredicto favorable vigente. El nivel de riesgo se calcula a partir de un cuestionario de evaluación, y la aprobación de un revisor de gobernanza lo incorpora al sistema.

Los veredictos caducan a los 30 días por defecto. Si Gate muestra "Gate no disponible", el módulo de cumplimiento está desactivado o no hay ninguna clave de firma de veredicto configurada.


Protección de información de salud protegida​

  • El texto que se envía a un modelo pasa el PHI egress guard descrito anteriormente. Valor predeterminado deid.
  • La anonimización de las entradas y salidas de un nodo en un flujo de trabajo es opcional. Agregue el nodo PHI De-identification (phi-deidentify, seguridad de categoría); acepta texto, un recurso FHIR o un mensaje HL7. No se aplica automáticamente.
  • El perfil de despliegue pilot-clinical (HYDRA_DEPLOYMENT_PROFILE) convierte una comprobación de seguridad de inicio en una parada forzada: si alguna de sus 14 comprobaciones falla, el servidor no se inicia. Las comprobaciones incluyen la aplicación de Gate activada, una clave de auditoría dedicada, un modelo de juez explícito con muestreo fijo, salida de PHI en modo allowlist, aplicación de autonomía activada y un modo de política de salida válido. En el perfil predeterminado standard los mismos fallos solo se registran como advertencias.

¿Algo no está claro? Envíe sus comentarios sobre la documentación por correo electrónico..