Zum Hauptinhalt springen

Agenten und Governance

Version Tietai enthält einen Katalog vorgefertigter Agenten und die dazugehörigen Steuerelemente. Diese Seite erklärt die Funktion der einzelnen Steuerelemente, ihre Standardeinstellungen und wo Sie diese ändern können. Informationen zum Erstellen und Ausführen eines Agenten finden Sie unter „Agent erstellen und ausführen“.

Einige dieser Kontrollen sind standardmäßig deaktiviert oder nur protokollierbar. Dies wird bei jeder einzelnen Kontrolle angegeben, da eine Kontrolle, die lediglich protokolliert, keinen Schutz bietet.


Was ein Agent ist​

Ein Agent ist ein Sprachmodell mit einer Eingabeaufforderung, einer Reihe von Werkzeugen, die er aufrufen kann (z. B. eine FHIR-Abfrage oder eine PubMed-Suche), und optionalen Subagenten. Er arbeitet in einer Schleife: Er denkt, ruft ein Werkzeug auf, beobachtet das Ergebnis und wiederholt den Vorgang, bis er eine Antwort geben kann.

Unter Tiet · Agentic → Agents finden Sie Agenten, unter Agent Workspace können Sie mit ihnen chatten, unter Monitor können Sie Aufträge prüfen und unter Reviews über ausstehende SEPL-Anträge entscheiden. Alle vier Optionen finden Sie unter Tiet · Agentic → Agents in der Seitenleiste.

Der Basiskatalog umfasst rund 110 Agenten aus den Bereichen Kodierung und Abrechnung, klinische Entscheidungsunterstützung, Dokumentation, Pflege, Pharmazie, Spezialversorgung, Betrieb, Forschung, Telemedizin, Compliance, Rehabilitation, Gesundheitsfachberufe und weitere. Drei davon (Revenue Cycle Optimizer, Clinical Workflow Orchestrator und Chronic Disease Management) sind Einzelagenten, die über ihre Unteragentenliste andere Agenten koordinieren.

Sie können einen Agenten direkt ausführen, ihn über die API aufrufen, einen Agent Executor Knoten in einen Workflow einfügen oder einen mehrstufigen Agentengraphen entwerfen (Agentengraphen erstellen).

Versionen​

Die bereitgestellte Version eines Agenten ist eingefroren. Eine Änderung ist eine neue Entwurfsversion, die den laufenden Agenten erst bei der Bereitstellung erreicht, wobei jede Version lesbar bleibt. Dasselbe Prinzip gilt für den Agentengraphen: Eine veröffentlichte Version ändert sich nie. Weitere Details finden Sie unter „Agent erstellen und ausführen“.

Beim erneuten Ausführen einer Graphversion werden zwar die gleichen Eingabeaufforderungen und Werkzeugversionen verwendet, die Modellausgabe kann jedoch zwischen den Durchläufen variieren.


Wie viel ein Agent tun darf: Autonomiegrenzen​

Jeder Agentenlauf und jeder Graphlauf löst eine Autonomieobergrenze auf. Jedes Werkzeug und jeder feste Graphhandler hat eine Effektklasse, und die Obergrenze bestimmt, welche Klassen der Lauf verwenden darf.

Autonomiebeschränkungen: „research_only“ wird immer erzwungen, „propos“ wird nur erzwungen, wenn HYDRA_AUTONOMY_ENFORCEMENT aktiviert ist, „autonomous“ erlaubt jede Klasse.

DeckeEffektklassen zulässigWenn ein Lauf es bekommt
research_onlygelesen, ForschungsdatensatzDer Agent oder Graph deklariert research_only in seinem Konformitätsblock.
proposelesen, Forschungsdatensatz, vorschlagenDer Wirkstoff ist reguliert oder beeinflusst die klinischen Ergebnisse, oder er hat einen anderen compliance_level als leer oder none. Ein Diagramm ohne Compliance-Block erhält ebenfalls propose.
autonomousjede Klasse, einschließlich SchreibenAlles andere.
  • Read ist eine Suche ohne Nebenwirkungen. research_record schreibt nur in den Speicher für Forschungsergebnisse. Propose erzeugt etwas, worüber eine Person entscheiden muss (den Graph-Handler fhir.propose und request_access). Write ändert ein klinisches oder operatives System oder kontaktiert eine Person.
  • Ein Werkzeug, das keinen Eintrag in der Effekttabelle hat, wird als Schreibvorgang gezählt, daher wird ein neues oder falsch geschriebenes Werkzeug niemals stillschweigend zugelassen.
  • Ein verschachtelter Durchlauf (ein Agent, der delegiert, oder ein Graph, der einen Agenten ausführt) verwendet den strengeren Wert seiner eigenen Obergrenze und der seines übergeordneten Agenten. Ein Agentendurchlauf, dessen Aufrufer keine Obergrenze ermittelt hat, wird als propose bewertet.
  • Ein Tool oberhalb der Zielvorgabe wird aus der Liste der dem Modell angebotenen Tools entfernt und erneut abgelehnt, falls das Modell es dennoch aufruft. Eine Ablehnung erzeugt einen Eintrag runtime.tool_denied in der Prüfkette und ein Ereignis tool_denied im Ausführungsablauf.

Wo die Art der Durchsetzung von Bedeutung ist​

research_only wird immer erzwungen. Die Obergrenze propose folgt auf HYDRA_AUTONOMY_ENFORCEMENT.

WertAuswirkung auf die propose Grad-Decke
nicht gesetzt oder audit (Standardwert)Ein Schreibtool wird weiterhin ausgeführt. Die mögliche Ablehnung wird als Datensatz mit dem Wert mode: audit protokolliert.
enforce oder ein anderer WertSchreibwerkzeuge werden entfernt und verweigert.

Bei einer Standardinstallation kann ein klinischer Agent weiterhin ein Schreibtool aufrufen; die Begrenzung protokolliert lediglich, dass dies nicht zulässig ist. Das Bereitstellungsprofil pilot-clinical erfordert enforce. Überprüfen Sie die Audit-Protokolle auf einem Produktivsystem, bevor Sie die Umstellung vornehmen.

Ein Agent mit dem Wert research_only kann auch nicht innerhalb einer Konsultation ausgeführt werden, und eine Pipeline, die einen solchen Agenten ausführt, darf nur Lese- und Forschungsdatensatzknoten enthalten; sie wird vor dem Start mit HTTP 422 abgelehnt.

Katalogagenten wie Laboratory Results Interpreter und Drug Interaction Checker tragen compliance_level: hipaa, daher werden sie zu propose aufgelöst.


Anregungen zur Selbstverbesserung unter menschlicher Kontrolle​

SEPL (Selbstlernende Eingabeaufforderungsschleife) schlägt Verbesserungen für die Eingabeaufforderung, die Werkzeuge oder die Konfiguration eines Agenten vor, testet diese an einer Kopie und übernimmt nur dann eine Änderung, wenn die Prüfungen dies zulassen. Es können Eingabeaufforderungen, Werkzeugdefinitionen und Agentenkonfigurationen geändert werden, nicht nur Eingabeaufforderungen.

SEPL-Zyklus: Auslösen, Reflektieren und Auswählen, Verbessern zu einer Schattenversion, Evaluieren, Prüfen von Invarianten, dann sendet das Commit-Gate den Kandidaten zum Commit, menschliche Überprüfung, Ablehnung oder kein Commit

Auslöser. Ein Zyklus beginnt mit einem Ereigniswert von sepl.evolve.request, mit einem Wert von Run Evolution im Evolution Tab des Agenten oder automatisch, wenn die Erfolgsrate eines Agenten innerhalb eines bestimmten Zeitraums sinkt. SEPL wird nicht durch Umgebungsvariablen gesteuert.

Phasen.

  1. Reflektieren und auswählen. Es liest aktuelle Ausführungsprotokolle, ordnet Hypothesen darüber, was fehlschlägt, und wählt diejenige mit der höchsten Wahrscheinlichkeit aus.
  2. Verbesserung. Ein LLM schreibt eine Schattenversion. Der Live-Agent wird nicht verändert.
  3. Eval. Es spielt frühere Eingaben gegen den Schatten ab. Der Schatten besteht nur, wenn sowohl task_success_rate als auch schema_adherence eine Verbesserung gegenüber der Live-Version darstellen.
  4. Invarianten prüfen. Der Server führt eine Prüfung durch, die Berechtigungs-Delta- Prüfung. Ein Vorschlag, der einen Subagenten hinzufügt, max_sub_agent_depth oder den HAGP-Modus aktiviert, ein Konformitätsflag senkt oder ändert, den Agenten als Inferenzendpunkt bereitstellt, den Speicher aktiviert oder das Modellziel ändert, wird in jedem Modus zur manuellen Überprüfung in die Warteschlange gestellt und niemals automatisch übernommen.
  5. Commit-Gate. Das Ergebnis hängt vom HAGP mode des Agenten ab.
HAGP-ModusWas geschieht mit einem Kandidaten?
offNichts hat sich weiterentwickelt.
rspl_onlyNur Versionsverwaltung; kein Commit.
proposeZur manuellen Überprüfung in die Warteschlange gestellt; niemals automatisch übernommen.
autonomousDie Ausführung wird bestätigt, wenn Eval und die Invarianten erfüllt sind.

Der von Ihnen gewählte Modus ist durch einen Compliance-Oberwert begrenzt. Ein regulierter Wirkstoff oder ein Wirkstoff, der die klinische Wirksamkeit beeinflusst, darf maximal den propose haben, selbst wenn autonomous ausgewählt ist. Auf der Registerkarte „Entwicklung“ wird dann „Modus auf Vorschlag herabgestuft (Compliance-Oberwert: Vorschlag)“ angezeigt.

Dort, wo Sie damit arbeiten. Öffnen Sie den Agenten und dann Evolution. Stellen Sie HAGP Mode ein (Aus, Nur RSPL, Vorschlagen, Autonom). Run Evolution ist nur in den Modi „Vorschlagen“ oder „Autonom“ aktiviert. SEPL Parameters sind die maximale Anzahl an Iterationen, Stagnationsrunden, Abklingzeit (Minuten), Kostenobergrenze (USD) und Mindestvertrauen. Ausstehende Vorschläge werden unter Pending Reviews mit der aktuellen und der vorgeschlagenen Eingabeaufforderung nebeneinander angezeigt; jeder Vorschlag hat die Felder Approve und Reject (Confirm Reject mit einer optionalen Begründung). Durch die Genehmigung wird die Schattenversion zur Live-Version. Darunter listet SEPL Evolution History vergangene Durchläufe und deren Ergebnisse auf: Akzeptiert, Zur Überprüfung in der Warteschlange, Abgelehnt, Stagnation, Keine Hypothesen, Abklingzeit und Wird bereits ausgeführt.

Stagnation, Kostenobergrenze und Abklingzeit sind agentenspezifische Einstellungen und keine Umgebungsvariablen. Nach der konfigurierten Anzahl aufeinanderfolgender Runden ohne Verbesserung wird die Weiterentwicklung dieser Ressource gestoppt.

Überprüfungswarteschlange. Tiet · Agentic → Agents → Reviews („SEPL-Überprüfungen bestätigen“) listet alle Vorschläge auf, die auf eine menschliche Entscheidung warten, und zwar für alle Ihre Agenten. So müssen Sie nicht jeden Agenten einzeln öffnen. Die Funktion benötigt Lese- oder Bearbeitungsrechte für die Agenten. Jede Zeile zeigt den Status des Vorschlags, die Konfidenz, die Schattenversion, ob die Bewertung und die bestandenen Invarianten vorliegen, ein Schildsymbol, wenn der Vorschlag Compliance-relevant ist, und einen Link Open agent). Claim wird der Vorschlag Ihnen zugewiesen (nur angezeigt, solange er nicht zugewiesen ist). Approve wird die vorgeschlagene Version aktiviert. Reject werden Sie um eine Begründung von mindestens 10 Zeichen gebeten (im Reiter „Evolution“ ist auch eine leere Begründung möglich; der Server verwendet stattdessen „Abgelehnt über Hydra Studio“ für alles unter 10 Zeichen) und die Ablehnung wird protokolliert. Dadurch wird die Wartezeit des Agenten gestartet. Wenn keine Überprüfungen ausstehen, wird „Keine ausstehenden Überprüfungen“ angezeigt. Die Liste wird alle 30 Sekunden aktualisiert. Alternativ können Sie Refresh verwenden.

hinweis

Laut dem vorgelagerten SEPL-Leitfaden liegen die Bewertungen unter Studio → Settings → SEPL Reviews. Es gibt keinen solchen Bildschirm; die Warteschlangen sind Agents → Reviews (alle Agenten) und die Registerkarte Evolution des Agenten (ein Agent).

Der SEPL-Code enthält außerdem ein Paket für Adversarial Probes (Prompt Injection, Jailbreak, Schema Fuzzing, Boundary Stress) und weitere Invarianten (SBOM, statische Analyse, Schema-Kompatibilität, Domain-Zulassungsliste). Der Server importiert das Probe-Paket nicht, und laut der zugehörigen Dokumentation sind die zusätzlichen Invarianten derzeit nicht in den Runner integriert; verlassen Sie sich also nicht darauf.


Kontrolle darüber, was Agenten erreichen können​

Zwei separate Mechanismen begrenzen den ausgehenden Datenverkehr. Sie gelten für unterschiedliche Dinge. (Die Egress-Policy-Engine wertet auch Modellanbieteraufrufe und die eigenen Backing-Service-Aufrufe der Plattform aus, wie z. B. den DICOM-Dienst; siehe Ende des Abschnitts „Egress“.)

Werkzeugausgangsrichtlinie​

Open Platform → Egress policy. Es steuert, welche Hosts, HTTP-Methoden und Pfade jedes Agententool aufrufen darf.

  • Die Plattform wird mit den integrierten Tools (z. B. PubMed, ClinicalTrials.gov) Platform rules. Sie können diese im Tab Platform rules einsehen, aber nicht bearbeiten.
  • Organization rules ist ein YAML-Dokument, das Sie im Tab Organization rules bearbeiten und das den Plattformregeln hinzugefügt wird. Regeln binden ein Subjekt (ein Tool, einen Konnektor oder eine Sandbox) an Endpunkte (Host, Port und bei REST zusätzlich Methoden und Pfade). Eine Anfrage, die von keiner Regel zugelassen wird, wird abgelehnt; eine passende Ablehnungsregel hat immer Vorrang. Validate prüft das Dokument; Tab Save speichert es als neue Revision mit dem von Ihnen eingegebenen Änderungshinweis. Im Tab History werden alle Revisionen gespeichert; zum Zurücksetzen speichern Sie ein älteres Dokument.
  • Der Tab Suggestions listet Anfragen auf, die in den letzten 30 Tagen abgelehnt wurden oder im Prüfmodus abgelehnt worden wären, jeweils mit der engsten Regel, die die Annahme zulassen würde. Der Load suggested rules into editor führt die Anfragen zur Überprüfung in den Editor.
  • Eine Änderung, die den Zugriff erweitert (z. B. ein neues Ziel, weitere Methoden oder Pfade, eine entfernte Verweigerungsregel oder die Aufhebung der Zugriffsbeschränkungen für die Überwachung), wird zunächst nicht gespeichert. Stattdessen wird ein Überprüfungsschritt mit den Berechtigungsergebnissen durchgeführt, den Sie bestätigen und erneut senden. Eine Änderung, die den Zugriff lediglich einschränkt, wird direkt gespeichert.
  • Loopback-, Cloud-Metadaten- und nicht fixierte private Adressen werden unabhängig von den Richtlinien immer abgelehnt.

Effective mode (oben rechts auf der Seite) entspricht Audit oder Enforce. Die Organisation kann den Plattformmodus übernehmen oder überschreiben. Die Seite erklärt es deutlich: „Audit protokolliert, was abgelehnt würde; „Erzwingen“ lehnt es ab.“ Der Plattformstandard, festgelegt durch HYDRA_EGRESS_ENFORCEMENT, ist „Audit “. Dies protokolliert eine Warnung, dass eine Anfrage abgelehnt würde, blockiert aber nichts. In enforce werden abgelehnte Anfragen abgewiesen, außer an Endpunkten, deren eigener Wert enforcement noch audit ist. Der Wert off existiert nur auf Plattformebene und beschränkt sich auf die strikte Ablehnungsebene.

Aufrufe von Modellanbietern (Subjekt model:<provider>) und Plattformdiensten (service:tietai-dicom-service) durchlaufen dieselbe Engine, sind aber standardmäßig auf Überwachung beschränkt (siehe HYDRA_EGRESS_MODEL_ENFORCEMENT und HYDRA_EGRESS_SERVICE_ENFORCEMENT). Daher wird eine potenzielle Ablehnung protokolliert, aber nicht blockiert, bis Sie enforce festlegen. Eine Beschränkung erhöht niemals den Plattformmodus. Fügen Sie Regeln für selbstgehostete Modellendpunkte (vLLM, Ollama) hinzu, bevor Sie diese erzwingen.

Bevor Sie eine Organisation in den Enforce-Modus versetzen, fügen Sie für jeden Konnektor Regeln hinzu (die Registerkarte „Vorschläge“ ist dabei hilfreich), andernfalls werden diese Konnektoren nicht mehr unterstützt.

Ein Knoten im Graph mit access_requests: true kann ein Ziel anfordern, das abgelehnt wurde. Dies führt zu einer manuellen Überprüfung, die nur ein Administrator für ausgehende Zugriffe der Organisation genehmigen kann; die Genehmigung fügt die Regel als neue Revision hinzu.

PHI-Ausgangssicherung (Modellaufrufe)​

Diese Schutzmaßnahme ist von der Tool-Richtlinie unabhängig. Text, der an ein Modell gesendet wird, übergibt den Wert HYDRA_PHI_EGRESS_MODE bevor er den Prozess verlässt. Sie umfasst die gesamte Anfrage: Systemaufforderung, Verlauf, Tool-Ergebnisse und Anhangstext. Standardwert: deid.

ModusAuswirkung auf einen nicht-internen Modellendpunkt
deid (Standardwert)Der Text wird anonymisiert; ist dies nicht möglich, wird der Anruf abgebrochen. Bilder, Audiodateien und Dateien werden abgelehnt.
blockAbgelehnt.
allowlistNur für Hosts in HYDRA_PHI_EGRESS_ALLOWED_HOSTS zulässig.
offKeine Durchsetzung. Nicht für die Produktion.

Genomische Inhalte (HGVS-Expressionen, VCF/BAM/CRAM, drs:// URIs, das GERMLINE Label), die an einen nicht zulässigen Endpunkt gesendet werden, werden in allen Modi außer off mit dem Grund genomic_content zurückgewiesen; sie werden niemals anonymisiert, um durchgelassen zu werden.

Ein gehosteter Endpunkt, mit dem Sie einen Prozessorvertrag haben, wie z. B. ein regionaler Vertex AI-Host, muss in HYDRA_PHI_EGRESS_ALLOWED_HOSTS aufgeführt sein; andernfalls anonymisiert deid die an diesen Endpunkt gesendeten Daten. Kommerzielle LLM-SaaS-Hosts sind in dieser Liste grundsätzlich nicht zulässig.

Was nicht gebaut wird​

Agenten verwenden keine Platzhalter-Anmeldeinformationen. Ein Entwurf für die „Anmeldeinformationsbindung“, bei der das Modell nur einen Platzhalter sieht und das eigentliche Geheimnis erst beim Aufruf eingefügt wird, ist in einem Entwurfsdokument beschrieben. Der Ausgangscode enthält jedoch keinen solchen Mechanismus. Gehen Sie nicht davon aus, dass die Tool-Argumente von Geheimnissen bereinigt werden. Anmeldeinformationen für Konnektoren werden serverseitig vom Konnektor aufgelöst und nicht über Eingabeaufforderungen eingegeben.

Änderungen an den Berechtigungen eines Agenten unterliegen einer Berechtigungs-Delta-. Prüfung: Das Hinzufügen eines handlungsfähigen Tools, die Erweiterung einer Austrittsrichtlinie oder ein SEPL-Vorschlag, der den Zugriff erweitert, führen zu Ergebnissen, die von einer Person bestätigt werden müssen. Bei der Zuweisung von Agenten-Tools und der Veröffentlichung von Graphen wird die Durchsetzung dieser Prüfung auf HYDRA_PERMISSION_DELTA_MODE gesetzt. Für die Austrittsrichtlinie und SEPL-Vorschläge ist sie immer aktiviert.


Wenn ein Modell versagt​

Schleifenschutz und dauerhafte Ausführung Model fallback Merkmale von Agentengraphknoten. Ein einzelner Agent besitzt diese nicht.

Modell-Fallback: Der Provider-Client versucht es zweimal erneut; anschließend wird, falls der Fehler dies zulässt, ein deklariertes Fallback-Modell verwendet; andernfalls schlägt der Schritt fehl.

Modell-Fallback. Ein LLM-Knoten kann bis zu drei fallback_models deklarieren. Diese werden der Reihe nach ausprobiert, wenn der Modellaufruf aufgrund von Ratenbegrenzung (429), Serverfehlern (408 oder 5xx), Transportfehlern (402 oder 404) fehlschlägt. Sie werden niemals bei Fehlern (401, 403) oder ungültigen Anfragen verwendet, da ein anderes Modell einen Konfigurationsfehler verschleiern würde. Auch bei Budget- oder Ausgangsverweigerungen werden sie nicht verwendet. Es wird kein Ersatzmodell verwendet, es sei denn, der Knoten deklariert dies. Jeder Hop wird vom PHI-Ausgangsschutz und der Ausgangsrichtlinie für seinen jeweiligen Endpunkt geprüft. Ein Fallback-Modell, das von der Richtlinie abgelehnt wird, empfängt die Anfrage daher nicht. Der Schritt protokolliert die Fallback-Optionen step.model_fallback und model_used, und jeder Hop verbraucht Budget. Daher begrenzt die Fallback-Option max_model_calls die Kette. Dies gilt nur für Standard-Tool-Loop-Knoten; RLM- und ParSer-Knoten ignorieren diese Option. Vor jedem Fallback versucht der Provider-Client selbst, vorübergehende Fehler zu beheben (zwei Wiederholungsversuche für die OpenAI- und Anthropic-SDKs sowie den Gemini-Adapter).

Durable runs ist standardmäßig deaktiviert. Mit HYDRA_GRAPH_DURABLE_RUNS=true und einem als retry_safe markierten Knoten kann ein Lauf für eine menschliche Entscheidung pausiert und fortgesetzt werden, auch nach einem Neustart. Ohne diese Markierungen wartet ein Lauf nicht.

Loop protection ist standardmäßig deaktiviert und wird pro Graphversion festgelegt, da jede Option die vom Modell gelesenen Daten verändert:

  • wrap_up_turn: Wenn ein Knoten alle seine Werkzeugrunden damit verbracht hat, Werkzeuge aufzurufen, führen Sie einen weiteren Modellaufruf durch, um ihn aufzufordern, anhand der vorhandenen Informationen zu antworten und anzugeben, was fehlt. Andernfalls liefert der Knoten keine Ergebnisse und schlägt fehl.
  • repeat_advisory: Wenn derselbe Toolaufruf zweimal hintereinander dasselbe Ergebnis liefert, wird das Modell darüber informiert. Der Aufruf wird trotzdem ausgeführt.
  • untrusted_fence: Das Wrap-Tool erzeugt Markierungen, die diese als Daten und nicht als Anweisungen kennzeichnen.

Es wird immer step.rounds_exhausted ausgegeben, wenn einem Knoten die Runden ausgehen.

Ausgabenbudgets. Eine Organisation kann ein Ausgabenbudget für einen Agenten oder Graphen festlegen. Sobald ein aktives Budget aufgebraucht ist, wird ein neuer Agentenzug oder Graphlauf abgelehnt; bereits laufende Läufe werden jedoch nicht abgebrochen.


KI-Konformität​

Der Arbeitsbereich „Governance“ für KI-Systeme Tiet · Agentic → Compliance orientiert sich an der EU-KI-Gesetzgebung und der EU-MDR. Er öffnet sich mit einer Ansicht (Overview) mit Kacheln für regulierte, bewertete, kritische oder hochriskante, gesperrte Systeme, offene Vorfälle und Prüfprotokolle sowie der Richtlinienrisikomatrix. Er enthält sechs weitere Registerkarten, die jeweils auch als Seitenleisteneintrag dienen. Die Kopfzeile enthält die Schaltflächen Run reconcile (Synchronisierung der automatisch registrierten Systeme) und Register external system. Die Registerkarte Audit wird nur Benutzern angezeigt, die die Prüfkette einsehen dürfen.

TabWas es tut
SystemsDas Inventar. Agenten, Graphen, registrierte Modelle, KI-basierte Konnektoren und LLM-Tools werden automatisch erfasst und ihrem aktuellen Status entsprechend aktualisiert. Externe oder zugekaufte Systeme werden Register external system mit dem Dialogfeld „Externes KI-System registrieren“ (Name, Systemtyp, Herkunft, Anbieter, Verwendungszweck, klinischer Kontext, patientenbezogen, Eigentümer) registriert. Jedes System zeigt seine Risikostufe und seinen HAGP-Modus an.
PoliciesRichtlinienpakete (Teilmengen des EU-AI-Gesetzes und der EU-MDR sind enthalten), die Anforderungen und Kontrollen sowie die für jede Kontrolle erforderlichen Nachweise auflisten.
GateEvaluierungssuiten vor der Veröffentlichung. Run gate führt ein Profil (Baseline, Vollversion oder Bereitstellung) aus und gibt eine signierte Verdict aus: Bestanden, Bedingt oder Nicht bestanden. Für einen Testlauf ist zuvor eine genehmigte Risikobewertung erforderlich.
WatchMonitore führen Testreihen regelmäßig erneut aus und kennzeichnen Abweichungen von der Gate-Baseline. Die Standardmonitore werden bereitgestellt, nachdem ein Gate-Lauf eine Baseline festgelegt hat. Eine bestätigte Abweichung öffnet einen Vorfall.
CAPAKorrektur- und Vorbeugungsmaßnahmen. Siehe unten.
AuditDie manipulationssichere Prüfkette. Verify chain prüft sie und meldet „Prüfkette intakt“ oder den ersten fehlerhaften Datensatz.

CAPA​

Der Reiter CAPA listet Korrektur- und Präventivmaßnahmen mit den Bezeichnungen Number, Title, Status, Owner, Due und Source (Vorfall, Gate-Fehler, Auditfeststellung, Beschwerde oder Handbuch) auf, gefiltert nach Status und gekennzeichnet mit einem Symbol Overdue Open CAPA (für Benutzer mit Compliance-Rechten) werden Titel, Quelle, Problembeschreibung, Verantwortlicher, Fälligkeitsdatum, optional ein verknüpftes KI-System und eine ISO-14971-Risikoreferenz sowie die Vorfall-ID abgefragt, falls es sich bei der Quelle um einen Vorfall handelt. Ein CAPA durchläuft Schritt Open → Investigating → Actions planned → Implementing → Verifying effectiveness → Closed, wobei in jeder Zwischenphase ein Rückschritt zur Nachbearbeitung erfolgt. Cancel CAPA ist in jedem Status außer „Abgeschlossen“ verfügbar und erfordert eine Begründung. Ein abgeschlossener CAPA kann mit Angabe einer Begründung wieder in den Status „Untersuchung“ versetzt werden. „Abgebrochen“ ist endgültig. Abgeschlossene und abgebrochene CAPAs können nicht mehr bearbeitet werden. Innerhalb eines CAPA-Berichts werden die Ursache und die angewandte Methode (5-Why-Methode, Ishikawa-Diagramm, Fehlerbaumanalyse usw.), die Maßnahmen (Korrektur-, Korrektur-, Präventiv- oder sicherheitsrelevante Korrekturmaßnahme, jeweils mit Verantwortlichem, Fälligkeitsdatum und Status), das Wirksamkeitskriterium und in der Verifizierungsphase das Wirksamkeitsergebnis (wirksam oder unwirksam) sowie verknüpfte Datensätze erfasst. Close CAPA erfordert die Genehmigung der Compliance-Prüfung und unterliegt dem Vier-Augen-Prinzip: Weder der CAPA-Verantwortliche noch ein Maßnahmenverantwortlicher darf den Bericht schließen.

vorsicht

Die Gate-Überwachung ist optional. Ist der Wert HYDRA_COMPLIANCE_GATING nicht gesetzt (Standardeinstellung), führt Gate weiterhin Testreihen durch und protokolliert signierte Ergebnisse, jedoch wird nichts blockiert: Die Förderung des HAGP-Modus eines Agenten, die automatische SEPL-Akzeptanz und die Veröffentlichung von Graphen verhalten sich so, als ob das Modul nicht existierte. Ist der Wert hingegen aktiviert, benötigen diese drei Funktionen ein aktuelles positives Ergebnis. Die Risikostufe wird anhand eines Bewertungsfragebogens ermittelt und durch die Genehmigung eines Governance-Prüfers im System vermerkt.

Urteile verfallen standardmäßig nach 30 Tagen. Wenn Gate „Gate nicht verfügbar“ anzeigt, ist das Compliance-Modul deaktiviert oder es ist kein Urteilsignierungsschlüssel konfiguriert.


PHI-Schutz​

  • Text, der an ein Modell übergeben wird, übergibt den oben beschriebenen PHI egress guard Standardwert deid.
  • Die Anonymisierung der Ein- und Ausgaben eines Knotens in einem Workflow ist optional. Fügen Sie den Knoten PHI De-identification (Kategorie phi-deidentify: Sicherheit) hinzu; er akzeptiert Text, FHIR-Ressourcen oder HL7-Nachrichten. Die Anonymisierung wird nicht automatisch angewendet.
  • Das Bereitstellungsprofil pilot-clinical (HYDRA_DEPLOYMENT_PROFILE) wandelt die Startsicherheitsprüfung in einen Hard-Stop um: Schlägt eine der 14 Prüfungen fehl, startet der Server nicht. Die Prüfungen umfassen die Aktivierung der Gate-Erzwingung, einen dedizierten Audit-Schlüssel, ein explizites Judgement-Modell mit fixierter Stichprobenentnahme, PHI-Ausgang im Modus allowlist, aktivierte Autonomie-Erzwingung und einen gültigen Ausgangsrichtlinienmodus. Im Standardprofil standard werden dieselben Fehler lediglich als Warnungen protokolliert.

Etwas unklar? Senden Sie Feedback zur Dokumentation per E-Mail..