← Alle Projekte

Die Modellroute · Circlead-Plattform

Nuncio — Die Modellroute

Durch Künstliche Intelligenz werden ausführbare Tätigkeiten zur Massenware. Was bisher im Flurgespräch weitergegeben und auf Whiteboards skizziert wurde, muss jetzt lesbar werden — denn ein Agent folgt nur dem, was er vorfindet. Ohne klaren organisationalen Kontext findet eine unverantwortliche Verantwortungsverschiebung statt.

Der Dialog mit Agenten läuft in Circlead: dort liegt der Auftrag, dort wird er sichtbar, dort bleibt die Entscheidung dokumentiert. Nach außen geht genau ein Schritt — die Frage an ein Sprachmodell. Nuncio ist der Weg, den sie nimmt.

Was Nuncio leistet

  • Providerunabhängig — Nach außen spricht Nuncio das Anthropic-Messages-Format, nach oben OpenAI-kompatible Backends oder Anthropic im Durchreichen. Alles, was eine Basis-URL konfigurieren kann, kann darauf zeigen.
  • Routing nach Modellnamen — Die erste passende Regel gewinnt. Damit läuft Routine auf einem lokalen Modell und die eigentliche Arbeit auf einem gehosteten. Ein agentischer Lauf besteht zum größten Teil aus kleinen Hilfsschritten; beides auf dasselbe teure Backend zu legen, heißt für nichts zu bezahlen.
  • Lokal betreibbar — Mit einem Modell auf der eigenen Maschine verlässt kein Text das Haus. Für abgeschottete Umgebungen ist das keine Option, sondern die Voraussetzung.
  • Kein Schlüssel in der Konfiguration — Die Konfiguration nennt nur die Umgebungsvariable, aus der ein Schlüssel kommt, nie den Schlüssel selbst. Für ein lokales Modell entfällt er ganz.
  • Zwei Betriebsarten — als HTTP-Dienst für alles, was eine Modelladresse kennt, oder als Werkzeug für Oberflächen, in denen sich das Modell selbst nicht tauschen lässt.
  • Schmal gebaut — dreizehn Klassen, keine Abhängigkeit außer dem JDK. Ein Bauteil, das auf dem Weg jeder einzelnen Anfrage sitzt, sollte man ganz lesen können.

Der schwierige Teil

Nicht der Text, sondern die Werkzeuge. Die beiden großen Formate führen Werkzeugaufrufe unterschiedlich — einmal als Blöcke innerhalb einer Nachricht, einmal als eigenes Feld mit separaten Antwortnachrichten. Beim Streaming kommt hinzu, dass Argumente in Fragmenten eintreffen, die mitten im JSON brechen dürfen. Nuncio reicht Text sofort durch und puffert Werkzeugaufrufe, bis sie vollständig sind. Daran entscheidet sich, ob so ein Weg im Alltag trägt oder nur im Hallo-Welt-Fall funktioniert.

Die vollständige technische Beschreibung — Agent-Lebenszyklus, Autonomiestufen, Auftragszustände, Anonymisierung und die Routing-Tabelle — findest du im Technical Whitepaper, Abschnitt Dialog.

Im Zusammenspiel