Zum Hauptinhalt springen

Agentengraph-Referenz

Steuerelemente, Schemafelder, Ausführungslebenszyklus und Limits für Graph Agent Studio. Ein geführtes Beispiel finden Sie unter „Erstellen Sie Ihren ersten Agentengraphen“.

Rundgang durch Graph Agent Studio​

Öffnen Sie es von Tiet · Agentic, dann Agents und anschließend Registerkarte Agent Graphs (die Registerkarte zeigt die Anzahl der Diagramme an, z. B. „Agent Graphs (3)“; ihre Adresse ist /studio/graphs). Wählen Sie ein Diagramm aus der Liste aus oder erstellen Sie ein neues mit der Schaltfläche New graph (Titel „Neues Diagramm“, Dialog „Neues Diagramm“, Feldplatzhalter „z. B. QA + Writer Pipeline“, Schaltfläche Create).

Symbolleiste​

KontrolleWas es tut
New graph / New version (Symbolschaltflächen)Erstellen Sie ein Diagramm oder eine neue Version (Platzhalter 1.0.0).
+ Node (Bezeichnung „Knoten“, Tooltip „Knoten hinzufügen“)Füge einen Knoten hinzu. In der veröffentlichten Version deaktiviert: „Veröffentlichte Versionen sind unveränderlich – erstelle zuerst einen Entwurf.“
Draft (Tooltip „Diese Grafik anhand einer Beschreibung erstellen“)Die KI erstellt anhand Ihrer Beschreibung ein Diagramm. Überprüfen Sie das Ergebnis, bevor Sie ihm vertrauen.
SaveEs werden Unsaved, Saved oder Save error angezeigt. Bei einer veröffentlichten Version heißt es im Tooltip: „Veröffentlichte Versionen sind unveränderlich – Speichern erstellt einen neuen Entwurf (die aktuelle Version wird verzweigt).“
PublishVeröffentlicht die Version. Tooltip: „Diese Version veröffentlichen (zum Ausführen erforderlich)“. Deaktiviert, falls bereits veröffentlicht.
ValidateTooltip: „Graphstruktur prüfen (Ein-/Ausstieg, Erreichbarkeit, Routen, Schleifen)“. Zeigt Fehler und Warnungen im Editor an.
Run (Split-Schaltfläche)Run („Gesamten Graphen ausführen“) und im Cursormenü Debug step-by-step („An jedem Knoten anhalten“). Deaktiviert, bis eine Version veröffentlicht ist. Ein Dialogfeld mit dem Titel „Graph ausführen“ oder „Debug-Ausführung“ fordert die Eingabe an (eine Form aus Ihrer input_schema oder Raw JSON -Liste und eine Preset, falls Sie Beispiele gespeichert haben).
Pause, CancelErscheint während eines laufenden Laufs.

Superuser sehen außerdem eine Catalog Schaltfläche, die ein veröffentlichtes Diagramm mit allen Organisationen teilt.

Linke Seitenleiste: Knoten und Palette​

Nodes listet die Knoten der geöffneten Version mit einem Suchfeld auf. Palette listet auf, was Sie auf die Arbeitsfläche ziehen können:

AbschnittEinträge
KernVorhandener Agent, Inline-LLM, Tool-Agent, Planer
RoutingRouter (einzelne Route, zwei Routen vorbelegt), Multi-Router (mehrere Routen, Fan-Out), Verifier Gate (Verifizierungsgate plus die __verify_failed__ Route)
LaufzeitMenschliche Überprüfung (menschlicher Prüfpunkt), Speicheragent, Anhangleser
DeterministischDer Server meldet einen Eintrag pro deterministischem Handler, benannt nach seiner handler_type

Kantenwerkzeuge​

Über der Zeichenfläche legen Sie fest, wie sich die nächste Verbindung verhalten soll, die Sie zeichnen:

WerkzeugBedeutung (Tooltip)
AutoRoute oder Ausweichroute vom Quellport ableiten
ChainDeterministischer Rand
ParallelFächerkante mit Graph fan_out_mode=all
CycleBegrenzte Hinterkante mit maximalen Durchläufen
RouteRoutenkante von einer benannten Route
FallbackAusweichkante
JoinSchließen Sie sich dem Rand für den Fan-In an.
ConditionDeterministische Kante, die den Bedingungseditor öffnet

Durch Klicken auf eine Kante öffnet sich deren Dialog: Source node, Target node, Kind (Deterministisch, Route, Fallback, Join), Route Name, eine Bedingung, Transform, Priority und Max Traversals. Die Arbeitsfläche verfügt außerdem über eine Zoomfunktion, Fit view, Auto-arrange nodes und einen Kantenschalter Routing (Smart oder Curved).

Knoteninspektor​

Klicken Sie auf einen Knoten, um den Inspektor im rechten Bereich zu öffnen. Seine Registerkarten sind General, Model, Prompt, Tools, Memory, Routing und Verify.

TabWas Sie einstellen
AllgemeinAnzeigename, Beschreibung, Set as entry / Entry node, Mark as exit / Exit node, Schalter Human-in-the-loop, Receive attachments, Memory, die Memory backend (Vererben, Flach, Memora, angezeigt mit dem Speicherschalter), die Prompt-injection defence Auswahl (Vererben, Plattformdirektive, Benutzerdefinierte Direktive, Aus), Max retries, Timeout (ms).
ModellLanguage model, Max tokens, Streaming; für RLM- und ParSer-Knoten der Ausführungsmodus und deren Felder.
PromptSystem Prompt (eine Go-Vorlage über gemeinsam genutzten Zustand).
WerkzeugeAdd tool aus dem Werkzeugkatalog der Organisation, Add skill.
ErinnerungDer Speichersteuerungseditor (Registerkartenbezeichnung „Speicher“).
RoutingRouting mode (none, single, multi) und die Routenliste (Name plus Beschreibung, die dem Modell angezeigt wird).
VerifizierenVerification gate mit Mode (Richter, begründet, Konsens), Evidence state keys, Verifiers, Pass threshold, Min confidence, Verifier model, Candidate key, Rubric.

Beim Hinzufügen eines Knotens können Sie entweder auf einen vorhandenen Agenten verweisen, einen neuen Knoten (New agent erstellen oder einen Inline node auswählen („Ein Knoten mit eigener Eingabeaufforderung und Modell – kein Agentendatensatz erforderlich“). Ein deterministischer Knoten (aus dem Abschnitt „Deterministisch“) verfügt weder über ein Modell noch über Eingabeaufforderungen oder Werkzeuge.

Rechtes Bedienfeld​

Tabs: Info, Usage, History, API, Assistant.

  • Info: Graphname und Beschreibung, Guards (Max Steps, Fan-Out Mode, Scheduling, Workers), Prompt-injection defence (Boundary directive), Runtime patterns (welche Kantentypen der Graph verwendet), Medical inference (Expose to inference, Default engine).
  • Usage: Intended use, Intended users, Run inputs (deine input_schema), Example presets.
  • History: vergangene Durchläufe mit ihren Schritten und Tool-Aufrufen.
  • API: vorgefertigte curl, TypeScript- und Python-Snippets sowie eine Schaltfläche zum Erstellen eines Tokens mit Gültigkeitsbereich graph:<id>:execute.
  • Assistant: ein Copilot, der Fragen beantwortet oder ein Diagramm für eine Aufgabe erstellt.

Unteres Bedienfeld und Debugging​

Untere Registerkarten: Events (n), Step Output, Step Inspector, Trace, Variables. Der Schrittinspektor zeigt Input, Output, Resolved prompt, Thinking, den Verifizierungsdatensatz und Tool calls (n) Trace. Links zum Trace Explorer (vollständiger Spannbaum, Kosten, Wiederholungsversuche, verschachtelte Läufe).

Im Debug-Modus verfügt das Debug-Panel über die Tasten Continue (F5), Step over (F10), Step into (F11) und Stop sowie drei Registerkarten: Overrides (Override route, Mock tool call, Eingabe bearbeiten und Apply & Continue), Step Inspector (mit Rerun step) und Breakpoints. Haltepunkttypen sind before_node, after_prompt_render, before_tool_call, after_tool_call und after_node; lassen Sie die Knoten-ID leer, um an allen Knoten anzuhalten.

Ein Durchlauf, der einen Knotenpunkt mit menschlicher Interaktion erreicht, öffnet einen Dialog mit dem Titel Human Review Required, der ein Feld mit der Payload (JSON) sowie die Schaltflächen Skip und Submit enthält.

Anatomie eines Graphen​

Das Studio bearbeitet ein JSON-Dokument, die Definition. Sie können diese über die API lesen und schreiben (der Versionsendpunkt akzeptiert {"version": "1.0.0", "definition": {...}}). Alles Folgende ist ein Feld dieses Dokuments.

Felder der obersten Ebene​

FeldBedeutungRegel
entry_node_idErster Knoten, der ausgeführt werden sollErforderlich, muss mit einem Knoten übereinstimmen.
exit_node_idsKnoten, an denen der Lauf enden kannMindestens eine; jede muss einem Knoten entsprechen. Die Antwort ist die text des Ausgangsknotens.
nodes, edgesDas DiagrammDie IDs sind eindeutig; jede Kante benötigt eine id sowie eine bestehende Quelle und ein bestehendes Ziel.
guardsHarte Grenzwerte (siehe unten)max_total_steps ist erforderlich und muss größer als 0 sein.
fan_out_modeall (Standardwert), first, by_priorityWie sich mehrere übereinstimmende Nicht-Routenkanten von einem Knoten verhalten. first und by_priority lösen die priority niedrigsten Zahlen aus.
schedulingmode serial (Standard) oder parallel, max_parallel_workersSeriell benötigt 0 Worker. Parallel benötigt mindestens 2 und höchstens die maximale Anzahl aktiver Knoten.
complianceregulated, affects_clinical_output, data_classification (none, pseudonymised, phi), research_onlyKein Block bedeutet „klinisch“ (Sicherheit und Governance).
input_schemaEingaben für den Lauf: key, label, type (string, text, number, boolean, json), required, default, description, enumSteuert das Laufformular. Leer bedeutet einen Freitext query.
examplesGespeicherte Eingabevoreinstellungen (name, description, input)Wird im Ausführungsdialog als Preset angezeigt.
intended_usestatement, intended_usersDie Dokumentation wird zusammen mit dem Graphen versioniert, jedoch nicht erzwungen.
metadataowner, tags, protocol_ref, schedule_permissionWird vom Motor nicht verwendet.
variables, shared_state_schemaErklärungen darüber, was durch den Graphen fließtNur Deklaration. Eine Variable benötigt einen Namen in Kleinbuchstaben, eine Beschreibung, einen bekannten Typ und eine Quelle.
prompt_defenseStandardwert auf Graphebene für die InjektionsverteidigungEin Knoten kann diese Einstellung überschreiben. Standardmäßig aktiviert.

Knotenarten​

Jeder Knoten verfügt über id, name (beide erforderlich), eine optionale description und Canvas position. Die Art des Knotens wird durch die anderen von Ihnen festgelegten Werte bestimmt.

1. Modellknoten (LLM). Standardeinstellung. Er benötigt ein Modell und eine Eingabeaufforderung, jeweils von genau einer Quelle:

BrauchenOptionen
Modellinline_model_config (provider, model_name, temperature, max_tokens), oder model_config_ref (id, version), oder agent_id (das eigene Modell des Agenten).
Promptinline_prompt.template oder prompt_ref (id, version), oder agent_id (die Eingabeaufforderung des Agenten, wie geschrieben verwendet, gefolgt von ## Input und der vorhergehenden text).

Andere Felder: tool_refs (id, version, optional allowed_urls), skill_slugs und skill_refs, max_tool_rounds (Standard 5, höchstens 20), fallback_models (Sicherheit und Governance), retry_policy (max_attempts, backoff_ms, retry_on), timeout_ms, thinking_tokens (eine Obergrenze, kein Schalter), routing_mode und routes, verification, checks, memory_config, record_only, accept_attachments, inherit_agent_tools, access_requests, retry_safe, output_schema (siehe den Hinweis unter Häufige Fehler bei der Diagrammerstellung).

2. Deterministischer Knoten. Setzen Sie handler_type und handler_config. Die Engine führt registrierten Code anstelle eines Modells aus. Sie darf kein Modell, keine Eingabeaufforderung, keinen Agenten, tool_refs, max_tool_rounds, fallback_models, checks oder verification deklarieren. Wiederholungsversuche, Timeout, eine Schrittzeile, Haltepunkte und Ereignisse werden weiterhin verarbeitet. Integrierte Handler-Typen:

handler_typeTutEffektklasse
fhir.readFHIR search oder read. Für eine Suche wird mindestens ein Filter benötigt.lesen
fhir.proposeErstellt oder aktualisiert FHIR-Ressourcen nur im Entwurfs- oder Vorschlagsstatus. Eine PUT benötigt ifMatch.vorschlagen
fhir.writeJede FHIR-OperationSchreiben (nur autonome Läufe)
notify.sendSlack- oder Webhook-Nachrichtschreiben
script.runEin festes Python-Skript. Es liest seine Eingaben als context und weist einem Wörterbuch den Wert output zu.lesen

Der Server registriert außerdem Domänenhandler (z. B. record.build, record.snapshot, signal.infer). Im Abschnitt „Deterministische Palette“ ist aufgelistet, was Ihr Server anbietet.

Ein Bridged Handler wird folgendermaßen konfiguriert (aus den Designnotizen):

{"id": "fhir_slots", "name": "Find slots", "handler_type": "fhir.read",
"handler_config": {"config": {"operation": "search", "resource_type": "Slot"},
"inputs": {"search_params": "val.slot_search"},
"optional_inputs": {}, "values": {}, "output_key": "slots"}}

inputs ordnet einen Handler-Port einem gemeinsam genutzten Zustandspfad zu; ein fehlender Pfad führt zum Fehlschlagen des Schritts. Das Ergebnis wird unter output_key in den gemeinsam genutzten Zustand integriert. Handler, die einen Vorschlag machen oder schreiben, werden einmal ausgeführt und ignorieren retry_policy.

3. RLM-Knoten. execution_mode: "rlm" plus rlm.context_state_keys (erforderlich, keine leeren oder doppelten Schlüssel). Das Modell verarbeitet große Eingaben in einer Codeumgebung, anstatt sie in der Eingabeaufforderung einzulesen. Es kann nicht mit handler_type kombiniert werden.

4. ParSer-Knoten. execution_mode: "parser" plus ein parser Block (Kontextschlüssel oder Anhängequellen, ein Lesermodell, Turn- und Chunk-Limits). Günstige Lesermodelle zitieren aus langen Datensätzen. Publish lehnt einen Graphen ab, dessen guards.max_model_calls keine Aktivierung abdecken kann. Das initialisierte Beispiel ist parser-long-record-qa.json im Repository tietai-hydra-platform.

5. Mensch-in-the-Loop-Knoten. human_in_the_loop: true. Die Ausführung pausiert, bis eine Person eine JSON-Nutzlast übermittelt, die zur Ausgabe des Knotens wird. Er benötigt weiterhin ein Modell und eine Eingabeaufforderung zur Validierung (diese werden während des Wartens nicht verwendet) und darf keine Verifizierungsschleife enthalten.

Kanten​

FeldBedeutung
kinddeterministic (Standardwert; wird immer ausgelöst, optional geschützt durch condition), route (wird ausgelöst, wenn der Ausgang der Quelle route_name auswählt ), fallback (wird ausgelöst, wenn keine Routenkante übereinstimmt), join (Barriere).
route_nameErforderlich für route Kanten.
conditionEine Bedingung, die nach Übereinstimmung der Art ausgewertet wird. Syntax: Punktpfade über output. (der gerade ausgeführte Knoten) und state. (gemeinsamer Zustand), ==, !=, <, >, <=, >=, &&, `
transform{ key: path, ... } ordnet die Quellausgabe der Zieleingabe zu. Ein leerer Wert leitet die Ausgabe unverändert weiter.
priorityDie niedrigere Zahl gewinnt, wenn fan_out_mode. first oder by_priority ist.
max_traversalsWie oft diese Kante in einem Durchlauf ausgelöst werden kann. 0 bedeutet unbegrenzt.

Join Kanten bilden eine Barriere: Das Ziel wird nur einmal ausgeführt, wenn alle Verbindungskanten angekommen sind. Die Engine speichert die Ankunftszeiten auch nach Pausen und Neustarts. Beim Veröffentlichen werden folgende Regeln geprüft: Der Quellknoten muss routing_mode none haben oder leer sein, eine Verbindungskante darf keine condition haben, und ein Verbindungsziel benötigt mindestens zwei übergeordnete Knoten.

Routing-Modi​

Routing-Modi: „Keine“ löst die deterministische Kante aus, „Einzeln“ löst die ausgewählte Route aus, „Mehrfach“ löst jede ausgewählte Route aus

routing_modeDas Modell muss zurückgebenKanten, die brennen
none (oder leer)nichts BesonderesDie Nicht-Routen-Kanten, deren Bedingung erfüllt ist.
singleJSON mit "route": "<name>"Die Routenkante mit dieser route_name.
multiJSON mit "route": ["a", "b"]Jede in der Liste genannte Routenkante.

Sie müssen das Format in Ihrer Eingabeaufforderung nicht beschreiben: Wenn ein Knoten Routen besitzt, hängt die Engine ROUTING INSTRUCTIONS an die gerenderte Eingabeaufforderung an und listet jede Route mit ihrer Beschreibung auf. Schreiben Sie aussagekräftige Routenbeschreibungen; diese stellen die Anweisung dar. Wenn keine Routenkante übereinstimmt (das Modell hat einen unbekannten Namen zurückgegeben oder die übereinstimmende Kante hat alle ihre max_traversals verwendet), werden Fallback -Kanten verwendet. Optional wird eine route_reason Zeichenkette mit der Entscheidung protokolliert. Eine Routenkante und eine deklarierte Route müssen übereinstimmen: Studio Validate meldet „Nicht aufgelöste Routen“ für eine Kante, deren Route nicht deklariert ist, und eine deklarierte Route ohne Kante ist ein Lint-Fehler (unwired_route). Die einzige Ausnahme ist __verify_failed__, die Sie nicht deklarieren müssen.

Gemeinsamer Zustand​

Alle Knoten lesen und schreiben ein JSON-Objekt, den gemeinsamen Zustand.

  1. Ihre initial_input Schlüssel dienen als Startschlüssel (query ist der Standardschlüssel).
  2. Wenn ein Knoten seine Arbeit beendet hat, wird seine Ausgabe anhand des obersten Schlüssels zusammengeführt. Hat das Modell ein JSON-Objekt zurückgegeben, wird jeder Schlüssel zu einem Statusschlüssel. Andernfalls wird sein Text unter text gesetzt. Ein nachfolgender Knoten, der denselben Schlüssel verwendet, ersetzt ihn.
  3. Eine Eingabeaufforderung interpretiert jede Taste als {{.key}} (Go text/template). Fehlt eine Taste, wird <no value> ausgegeben; bei optionalen Tasten wird mit {{if .key}}...{{end}} getestet.
  4. Die Antwort des Durchlaufs ist die text des Ausgangsknotens.

Zwei Konsequenzen sind beim Design wichtig: Ein Knoten, der nur Routing-JSON (route, feedback) zurückgibt, lässt den vorherigen text unverändert, und zwei Knoten, die beide Klartext zurückgeben, überschreiben sich gegenseitig text. Bei der Ablaufplanung parallel schlägt der Lauf fehl, wenn zwei Zweige denselben Schlüssel mit unterschiedlichen Werten schreiben parallel branch state conflict for key "text" from nodes [...]. Weisen Sie jedem parallelen Worker einen eigenen JSON-Schlüssel zu. Die Engine besitzt die Parameter response_language, __verification_failure__, __attachments__ und __attachment_refs__ und leitet die Attachment-Flags has_attachments, has_image_attachments, has_dicom_attachments, has_signal_attachments und has_lab_documents aus den Dateien der Anfrage ab, bevor der erste Knoten ausgeführt wird. Schreiben Sie diese Flags nicht, sondern verwenden Sie sie für das Routing in Randbedingungen (z. B. state.has_dicom_attachments == true). Eine DICOM-Datei zählt auch als Bild (has_image_attachments, jedoch empfängt ein LLM-Knoten nie seine Pixeldaten (nur eine einzeilige Notiz mit seinen Header-Fakten). Senden Sie DICOM daher direkt an einen DICOM-fähigen deterministischen Knoten. Dieser Rand erhält eine niedrigere Nummer priority) als die Bildränder, damit er Priorität hat.

Wachen​

BewachenBedeutung
max_total_stepsErforderlich, größer als 0. Feste Obergrenze für Knotenaktivierungen in einem Durchlauf.
per_node_max_visitsZuordnung von Knoten-IDs zu maximalen Besuchen.
max_model_callsBegrenzung der Modellanfragen, einschließlich Wiederholungsversuchen, Tool-Runden und Verifiziereraufrufen.
max_total_tokens, max_cost_usdToken- und Kostenobergrenzen. Die Kosten erfordern eine vollständige Modellpreisgestaltung.
max_retry_attemptsNach dem ersten Versuch wird die gesamte Strecke wiederholt.
max_active_nodesWarteschlangen-Fan-Out-Breite. Darf max_total_steps nicht überschreiten.
max_tool_result_bytesArchiviert umfangreiche Werkzeugergebnisse und zeigt eine Zusammenfassung des Modells an. Standardmäßig deaktiviert.
untrusted_fence, repeat_advisory, wrap_up_turnOptionale Schutzfunktionen, standardmäßig deaktiviert. Der wrap_up_turn führt einen zusätzlichen Modellaufruf durch, wenn ein Knoten alle seine Werkzeugrunden verbraucht hat. repeat_advisory warnt das Modell, wenn ein identischer Werkzeugaufruf wiederholt wird.
max_child_executions, max_recursion_depthBeschränkungen für verschachtelte Ausführungen.

Ein Durchlauf, der per_node_max_visits überschreitet, schlägt mit node "x" exceeded max_visits=N fehl. Zyklen sind zulässig; diese Schutzmechanismen verhindern sie. Studio Validate warnt: „Schleifenschutz empfohlen: Der Graph enthält einen Zyklus – Max Steps (N) begrenzt ihn.“

Entwurf, Veröffentlichung, Ausführung, Wiedergabe​

Lebenszyklus eines Agentengraphen: Entwurf, Veröffentlichungsprüfungen, veröffentlichte Version, Ausführung, Wiedergabe

BühneWas geschieht
EntwurfVeränderbar. Das Speichern eines Entwurfs validiert ihn nicht. Fehler treten beim Veröffentlichen oder beim Klicken auf Validate auf.
VeröffentlichenLäuft Validate() und die invariante Richtlinie. Ein Fehler gibt den Status 422 mit der entsprechenden Meldung zurück. Die Veröffentlichung kann auch durch eine Compliance-Prüfung (409, "Compliance-Prüfung: ...") oder, falls eine Berechtigungsprüfung erzwungen wird, durch eine Prüfung verweigert werden, die Sie auffordert zu bestätigen, dass die Version den Bereich erweitert, den der Graph erreichen oder ausführen kann. Eine veröffentlichte Version ändert sich nie.
Neue VersionDas Speichern einer veröffentlichten Version erzeugt einen Entwurf. Wählen Sie dafür eine neue semantische Versionsnummer.
LaufenEs wird eine veröffentlichte Version benötigt. Sie wählen die Version aus; der Lauf zeichnet sie auf.
WiederholungPOST .../executions/{id}/replay mit einer step_id (und optionalen Eingabe- oder Statusüberschreibungen) erstellt einen untergeordneten Lauf, der an diesem Schritt mit dem gespeicherten Status beginnt. rewind verschiebt denselben Lauf zurück zu einem vorherigen Schritt. Studio verfügt über keine Wiedergabetaste für Diagramme; verwenden Sie die API. Rerun step im Debug-Panel ist die interaktive Version.

Was ist angepinnt?​

  • model_config_ref, prompt_ref und tool_refs übertragen id und version Eine prompt_ref Version kann latest sein; die Engine löst sie einmal beim Start auf, speichert das Ergebnis als resolved_prompt_versions, und eine Wiedergabe verwendet diese Karte unverändert.
  • inline_prompt und inline_model_config sind Teil der veröffentlichten Definition und daher fest damit verbunden.
  • Ein Knoten, der nur eine agent_id angibt, verwendet die bereitgestellte Konfiguration des Agenten. Agenten haben eigene Versionen (Entwurf, Bereitstellung, eingefroren nach Bereitstellung). Tool- und Skill-Zuweisungen auf einem Agenten werden nicht versioniert, und ein einfacher Eintrag mit der Zahl skill_slugs folgt dem aktiven Skill. Verwenden Sie skill_refs mit einer Versionsangabe, um den Eintrag zu fixieren.
  • Eine Wiederholung unterliegt der gleichen Autonomiebegrenzung wie das Original.

Was die Wiedergabe garantiert: dieselbe Graphversion, dieselben fixierten Eingabeaufforderungsversionen, denselben Startzustand. Was sie nicht garantiert: identische Ausgabe. Die Modellausgabe kann zwischen den Durchläufen variieren, und Tools können neue Daten liefern.

Sicherheit und Unternehmensführung​

Autonomieobergrenze​

Jeder Durchlauf hat eine Obergrenze, die die Möglichkeiten seiner Werkzeuge und Bediener einschränkt:

DeckeErlaubtAusgewählt, wenn
research_onlylesencompliance.research_only ist wahr. Ein solcher Ablauf kann nicht an ein Gespräch oder eine Konsultation gebunden werden.
proposelesen und vorschlagenDer Graph ist regulated, beeinflusst die klinische Leistung oder hat keinen compliance Block (kein Block zählt als klinisch).
autonomousallesEin compliance, der weder reguliert noch klinisch relevant ist.

Ein verschachtelter Prozess verwendet den strengeren Wert seiner eigenen und des übergeordneten Prozesses. Der Grenzwert propose wird nur erzwungen, wenn der Server mit HYDRA_AUTONOMY_ENFORCEMENT=enforce läuft. Standardmäßig läuft er im Modus audit: Mögliche Ablehnungen werden protokolliert und zugelassen. Das Pilot-Clinical-Profil erfordert Modus enforce. Eine Ablehnung führt zu einem Wert step.tool_denied. Fragen Sie Ihren Administrator, welchen Modus Ihre Umgebung verwendet, bevor Sie sich auf den Grenzwert verlassen.

Nebeneffektklassen​

Handler werden nach ihrer Wirkung klassifiziert: fhir.read und script.run lesen; fhir.propose schlagen vor; fhir.write und notify.send schreiben. Unterhalb einer Obergrenze propose kann ein Graph einen Entwurf oder eine vorgeschlagene FHIR-Ressource vorschlagen, aber keine endgültige Ressource schreiben. Jede Seitenwirkung wird in einem eigenen Knoten nach dem Entscheidungsknoten platziert, niemals im selben Schritt wie das Modell. Vorschlags- und Schreib-Handler werden einmalig ausgeführt und ignorieren Wiederholungsversuche, sodass eine verlorene Antwort keine Änderung wiederholen kann.

Verifizierungsgates​

So funktioniert ein Verifizierungsgate: Kandidat, Verifizierer, bestätigen oder wiederholen, dann zurückhalten und umleiten

Setzen Sie verification auf einen Modellknoten, um dessen Ausgabe zu überprüfen, bevor er den gemeinsamen Zustand erreicht:

ModusSchecks
judgeEin Prüfer bewertet den Kandidaten anhand Ihrer rubric.
groundedJeder Anspruch muss durch die in grounding_state_keys aufgeführten gemeinsamen Zustandsschlüssel belegt werden (leer bedeutet den gesamten Zustand).
consensusverifiers unabhängige Prüfer (standardmäßig 3, höchstens 7) stimmen ab. pass_threshold (standardmäßig 0,5) ist der Anteil, der bestehen muss.

Weitere Felder: min_confidence, candidate_key (Standardwert text), verifier_model (anderes Modell als für den Knoten verwenden), categorize, expose_candidate_on_failure Bei einem Fehlschlag wird der Knoten bis zu retry_policy.max_attempts erneut geprüft. Anschließend wird der Kandidat zurückgehalten: Keiner seiner Schlüssel wird geschrieben, die Engine schreibt einen __verification_failure__ Datensatz (Knoten, Versuche, Modus, Konfidenz, Begründung, nicht unterstützte Behauptungen, Hash des Kandidaten), und die __verify_failed__ Route des Knotens wird ausgelöst. Der Knoten muss eine ausgehende Routenkante mit dem Namen __verify_failed__ haben, sonst schlägt die Veröffentlichung fehl. Ein Gate ist bei deterministischen oder manuell eingebundenen Knoten nicht zulässig. expose_candidate_on_failure ist nur zulässig, wenn jedes __verify_failed__ Ziel ein deterministischer oder manuell eingebundener Knoten ist, sodass kein Modell eine abgelehnte Antwort in eine endgültige Antwort umwandeln kann.

Menschliche Pause​

human_in_the_loop parkt den Lauf (execution.paused, Grund human_in_the_loop), bis eine Nutzlast eintrifft (POST .../executions/{id}/human_input mit node_id und payload, was Submit bewirkt). Kenne die Grenzen:

  • Die Wartezeit wird in einem Serverprozess gehalten und hat kein eigenes Wartezeitlimit. Ein Serverneustart kann sie zunichtemachen.
  • Bei der Einstellung HYDRA_GRAPH_DURABLE_RUNS=true (standardmäßig deaktiviert) und einem Knoten mit der Markierung retry_safe überstehen die Ausführungen Neustarts aufgrund von Genehmigungs- und Zugriffsanforderungspausen. Fragen Sie Ihren Administrator, ob diese Funktion aktiviert ist.
  • Bei stundenlangen Überprüfungen (Abnahmewarteschlangen) sollten Sie die Überprüfung als Datensatz in einem eigenen Dienst speichern und nach deren Abschluss einen zweiten Graphlauf starten.

Andere Kontrollen​

  • fallback_models: Bis zu {id, version} Modellreferenzen werden der Reihe nach versucht, wenn der Aufruf aufgrund von Ratenbegrenzung, Timeout, 5xx-Fehler, Transportfehler, Zahlungsanforderung oder nicht gefundenem Modell fehlschlägt. Bei Authentifizierungsfehlern oder fehlerhaften Anfragen werden keine Modellreferenzen verwendet. Sie wählen die Referenzen aus; die Workflow-Engine wechselt Modelle niemals im Hintergrund. Jeder Hop wird anhand der PHI-Ausgangsrichtlinie geprüft. Protokolliert als step.model_fallback Nur Standardmodellknoten.
  • checks: Regeln für die Werkzeugaufrufe eines Knotens (einen Aufruf ablehnen, dessen Argumente übereinstimmen, oder einen vorherigen erfolgreichen Aufruf voraussetzen).
  • record_only: Beschränkt den Zeichner auf Terminologie-Tools, sodass er kein Live-FHIR lesen kann.
  • Mandatory invariant block: Bei klinischen Aktivierungen fügt die Engine jedem Modellknoten-Prompt einen <mandatory_invariant_core> Block als letzten Abschnitt hinzu. Dieses Tag darf nicht in einem Prompt verwendet werden (die Veröffentlichung gibt den Fehlercode 422 mit der Meldung prompt contains the reserved <mandatory_invariant_core> tag zurück). invariant_exemption erfordert eine Begründung von mindestens 20 Zeichen und eine Referenz und wird im Pilot-Klinik-Profil abgelehnt. Versuchen Sie nicht, den Block in Ihrem eigenen Prompt zu reproduzieren oder abzuschwächen.
  • Prompt-injection defence: Standardmäßig aktiviert. Eingaben werden als Daten behandelt; verdächtige Eingaben führen zu step.prompt_injection.
  • Spend: max_model_calls, max_total_tokens und max_cost_usd stoppen einen Lauf, der mehr kostet als geplant.

Klinische Checkliste vor der Veröffentlichung​

  • compliance wurde ehrlich ausgefüllt; kein Feld bedeutet klinisch.
  • intended_use gibt an, wer die Ergebnisse nutzt und dass ein Arzt sie überprüft.
  • Jede relevante Modellausgabe hat ein Kontrollfeld, eine deterministische Überprüfung, einen Prüfer oder eine Person.
  • Jede Schleife enthält max_traversals, per_node_max_visits und max_total_steps.
  • Nebenwirkungen befinden sich in ihren eigenen deterministischen Knoten.
  • Sie haben es mit synthetischen Daten im Debug-Modus ausgeführt und jede Resolved prompt gelesen.

Lesen eines Laufs​

Jeder Durchlauf erzeugt ein geordnetes Ereignisprotokoll. Öffnen Sie Events (n) im unteren Bereich oder lesen Sie es über GET .../executions/{id}/events und den Datenstrom .../stream.

EreignisBedeutung
graph.execution.started, execution.completedLaufgrenzen.
step.started, step.completed, step.failed, step.retriedEine Knotenaktivierung. Ein Wiederholungsversuch bedeutet, dass der erste Versuch fehlgeschlagen ist oder dessen Ausgabe leer oder unbrauchbar war.
step.tool_called, step.tool_returnedEin Toolaufruf und sein Ergebnis.
execution.paused, execution.resumed, execution.cancelledMenschliche Pause, Fortsetzung, Abbruch.
execution.paused_at_breakpointEin Debug-Haltepunkt wurde erreicht.
step.verifiedEin Bestätigungsurteil.
step.tool_denied, step.check_denied, step.approval_requiredEine Governance-Kontrolle hat den Aufruf eines Tools gestoppt.
step.model_fallbackEs wurde ein Ausweichmodell verwendet.
step.unresolved_varsIn der Eingabeaufforderung wurde auf einen fehlenden Schlüssel verwiesen. Es wurde <no value> ausgegeben.
step.rounds_exhausted, step.repeat_advisory, execution.budget_exhaustedEine Schleife oder ein Ausgabenlimit.
step.invariant_core, step.phi_egress, step.prompt_injectionDie Sicherheitskontrollen haben ihre Entscheidung protokolliert.
execution.replayed, execution.rewoundEine Wiederholung oder ein Rücklauf wurde gestartet.

Der Ausführungsstatus geht von pending running und paused zu succeeded, failed oder cancelled.

When an answer is wrong, rückwärts arbeiten:

  1. Finde den ersten Schritt, der fehlgeschlagen ist oder einen falschen Wert geliefert hat. Step Inspector zeigt Input und Output an.
  2. Lies die Resolved prompt. Ist jede {{.key}} ausgefüllt? Ist eine <no value> dabei?
  3. Gelesen Output. Hat ein Router einen Routennamen zurückgegeben, den Sie nicht deklariert haben?
  4. Gelesen Tool calls. Hat ein Aufruf einen Fehler oder ein leeres Ergebnis zurückgegeben?
  5. Öffnen Sie Trace für Kosten, Wiederholungsversuche und verschachtelte Ausführungen.
  6. Korrigieren Sie die Eingabeaufforderung in einer neuen Version, veröffentlichen Sie diese und führen Sie dieselbe Eingabe erneut aus. Vergleichen Sie die Ergebnisse in History.

Testen Sie vor der Veröffentlichung​

  • Validate, dann behebe jeden Fehler. Lies die Warnungen.
  • Führen Sie das Programm mit Debug step-by-step aus. Setzen Sie after_prompt_render. Haltepunkt, um jede Eingabeaufforderung zu lesen, verwenden Sie Override route um eine Verzweigung zu erzwingen, und Mock tool call um echte Tools zu vermeiden.
  • Teste jede Kante, nicht nur den optimalen Pfad: Erzwinge jede Route, erzwinge eine Revisionsschleife bis zu ihrem Limit, gib ein leeres Tool-Ergebnis zurück.
  • Speichern Sie Ihre Testeingaben als Example presets, damit jede Version gegen dieselben Fälle ausgeführt wird.

Grenzen​

  • Die Bezeichnungen in Graph Agent Studio sind im Quelltext fester englischer Text; sie werden nicht übersetzt.
  • Es gibt keine Studio-Taste zum Wiederholen oder Zurückspulen; verwenden Sie die API oder Rerun step im Debug-Modus.
  • Es gibt keinen dedizierten Abrufknoten (RAG). Verwenden Sie Fähigkeiten, Speichereinstellungen, RLM- oder ParSer-Knoten für lange Dokumente oder einen Handler, der Daten in einen gemeinsamen Zustand lädt.
  • Die Laufzeiterzwingung von max_child_executions und max_recursion_depth wird im Quellcode als in einem Richtlinienabschnitt nicht aktiv beschrieben; verlassen Sie sich nicht darauf, dass sie verschachtelte Ausführungen stoppen.
  • Die menschliche Pause ist im Gange (Sicherheit und Governance).
  • Die Autonomieobergrenze ist eine Empfehlung (Audit-Modus), es sei denn, Ihr Server läuft mit HYDRA_AUTONOMY_ENFORCEMENT=enforce.

Etwas unklar? Senden Sie Feedback zur Dokumentation per E-Mail..