Jedes Unternehmen, das KI produktiv einsetzt, hat dasselbe Problem, sobald mehr als ein Team sich einen API-Schlüssel teilt: API-Keys gewähren Zugang, aber sie sagen Ihnen nicht, wer im Detail was ausgegeben hat, wer welches Modell aufrufen darf, welche Informationen Ihr Unternehmen verlassen haben oder an welchen Anbieter die Anfrage ging – und jede dieser Fragen landet auf einem anderen Schreibtisch. TORHAUS.AI schaltet eine Kontrollschicht vor jeden Prompt und ermöglicht den relevanten Abteilungen die benötigte Transparenz und Kontrolle.
Eine Position auf der Anbieterrechnung und keine Möglichkeit zu sagen, welches Team oder Projekt sie verursacht hat. Mit TORHAUS.AI wird jede Anfrage bepreist und auf eine Kostenstelle gebucht. Inklusive Budgets, die Ausgaben an der Obergrenze stoppen.
→ Kosten kontrollierenSensible Daten, personenbezogene Daten, interne Kürzel: alles fließt in Modell-APIs, ohne dass sich etwas blockieren, schwärzen oder als Richtlinie durchsetzen ließe. TORHAUS.AI gibt Ihnen Schranken, die den Abfluss von Daten stoppen, bevor er passiert.
→ Richtlinien durchsetzenKeine Aufzeichnung darüber, welche Prompts das Unternehmen verlassen haben oder was darin stand. TORHAUS.AI schreibt eine Protokollzeile pro Anfrage, damit Sie sehen und belegen können, was tatsächlich hinausging.
→ Prompts protokollierenJeder Anbieterwechsel bedeutet in der Regel eine Codeänderung und ein erneutes Ausrollen in jeder Anwendung. Anwendungen fragen nach einem Alias; mit TORHAUS.AI entscheiden Sie, welcher Anbieter antwortet - mit automatischem Failover.
→ Anbieter routenTORHAUS.AI läuft als einzelnes Binary auf Infrastruktur, die Sie kontrollieren, in einer Region, die Sie wählen. Es spricht ausschließlich mit den Modell-Endpunkten, die Sie selbst hinterlegen und hat keinen externen Dienst, den es kontaktieren könnte. Das bedeutet: Wo Ihre Daten liegen, ergibt sich allein daraus, wo Sie es installieren und auf welche Anbieter Sie es richten. Mehr echte Souveränität kann Ihnen eine Software nicht bieten.
→ So betreiben Sie esSo funktioniert es: Ihr Gateway läuft als Single-Tenant-Instanz, vollständig unter Ihrer Kontrolle. Die Verwaltung erfolgt über ein einziges Bootstrap-Konto, dessen Passwort Sie beim ersten Start zwingend ändern müssen, bevor weitere Funktionen freigeschaltet werden.
Ihre Buchhaltung muss wissen, wer was für welches Projekt ausgegeben hat. TORHAUS.AI bepreist jede Anfrage zum Tarif des Anbieters, bucht sie auf eine Kostenstelle und setzt Budgets durch, bevor Ihnen die Ausgaben davonlaufen. So bekommt Ihre Rechnung die Klarheit, die sie braucht.
Preise und Abrechnungswährung werden pro Provider-Endpunkt gesetzt. Ein Anbieter, der in EUR fakturiert, und einer, der in USD fakturiert, werden damit jeweils nativ erfasst, ohne Umrechnung beim Schreiben.
Ausgabengrenzen für eine Organisation, ein Team oder einen einzelnen virtuellen Schlüssel, pro Tag, Woche, Monat oder Gesamtlaufzeit.
402, nicht 429. Ein 429 bringt die Wiederholungslogik eines SDK dazu, es gegen eine Bedingung erneut zu versuchen, die von allein nie eintritt.Organisationen, darunter Teams, und beliebig viele virtuelle Schlüssel pro Team, jeder mit einer Kostenstelle, die Sie der Buchhaltung geben können.
TORHAUS.AI ist Ihre Kontrollschicht, die Datensicherheit auf Prompt-Ebene durchsetzt: Mit Guardrails legen Sie fest, was Ihr Unternehmen nicht verlassen darf. Personenbezogene Daten, Geheimnisse, interne Kennungen werden herausgefiltert, bevor ein Prompt irgendeinen Anbieter erreicht. Richtlinien gelten global oder pro Team und wandern als Datei (und nicht einem Nachmittag voller Klicks)von einem Test-Gateway ins Produktivsystem.
fail_closed blockiert eine Prüfung, die selbst fehlschlägt, etwa weil ein Webhook nicht antwortet, statt die Anfrage durchzulassen.Die Anfrage erreicht den Anbieter nie. Der Client bekommt einen Fehler in OpenAI-Form, den er bereits behandeln kann.
Der Treffer wird ersetzt, bevor die Anfrage hinausgeht, und bevor irgendetwas festgehalten wird.
Die Anfrage läuft durch, das Ergebnis landet in der Protokollzeile. So messen Sie eine Regel, bevor Sie sie durchsetzen.
Guardrails lesen den Text, den Ihre Nutzerinnen und Nutzer schreiben. Was Ihre Richtlinie darüber hinaus braucht, etwa ein hauseigenes Muster oder ein internes Projektkürzel, ist eine Regex-Regel, die Sie selbst ergänzen.
Compliance wird zur Pflicht: Der EU AI Act tritt seit 2025 stufenweise in Kraft, und DORA und NIS2 verlangen bereits Protokollierung, Zugriffskontrolle und Aufsicht über Dienstleister. TORHAUS.AI schreibt eine strukturierte Protokollzeile pro Anfrage: die Belege, mit denen Sie zeigen können, wie KI in Ihrem Unternehmen genutzt wird.
X-Forwarded-For wird also ignoriert, bis Sie sagen, wie viele Reverse-Proxys wirklich davor stehen. Diesem Header ungefragt zu glauben hieße, jedem Aufrufer zu erlauben, sich eine beliebige Adresse ins Protokoll zu schreiben.Beispielzeile. Feldnamen und Einheiten sind die, die das Gateway tatsächlich schreibt.
Niedrigere Zahlen werden zuerst versucht. Ziele mit gleicher Zahl teilen den Verkehr nach Gewichtung. Ein durchgestrichenes Ziel ist gesperrt.
Wenn das Routing in Ihren Anwendungen eingebaut ist, wird jede Störung auf Seiten der Anbieter zu Ihrem Problem. TORHAUS.AI zieht das Routing aus Ihrem Code heraus: Clients rufen nur einen Alias auf, und das Gateway übernimmt das Failover, überspringt degradierte Ziele und stellt die Verbindung sauber wieder her.
Unter der Haube ordnet der Alias mehrere Ziele zu, gestaffelt nach Priorität und innerhalb einer Stufe gewichtet. Wenn ein Anbieter schwächelt oder ausfällt, söffnet sich ein Circuit Breaker, der Verteiler überspringt ihn, und der Verkehr wandert eine Stufe weiter. Die Protokollzeile zeigt danach anhand eines einzelnen Audit-Eintrags genau, welche Ziele versucht wurden. Die Erholung läuft über einen einzelnen Testaufruf, nicht über einen Ansturm.
TORHAUS.AI in Ihren bestehenden Stack einzubinden ist so einfach, wie es nur geht: Richten Sie ein beliebiges OpenAI-SDK auf das Gateway, geben Sie ihm einen virtuellen Schlüssel und fragen Sie nach einem Alias statt nach einem Modellnamen. Das ist alles.
Ihre Abläufe bleiben genau so, wie sie sind. TORHAUS.AI sitzt einfach in der Mitte und übernimmt die schwierigen Teile: Nach oben routet es zu den Anbietern, denen Sie vertrauen. Nach unten bleibt Ihre Governance an einem Ort. Derselbe Client, dieselben Methoden, dieselben Antworten. lediglich gesteuert, protokolliert und durch Ihr Gateway geroutet.
# Die einzige Änderung für Ihre Entwickler.
from openai import OpenAI
client = OpenAI(
base_url="https://gateway.example.com/v1",
api_key="tor_...", # virtueller Schlüssel
)
client.chat.completions.create(
model="gateway-balanced", # ein Alias, kein Modell
messages=[{"role": "user", "content": "Hallo"}],
)
# Einem Team verrechnet. Gegen ein Budget geprüft.
# Durch Ihre Guardrails gelaufen. Ins Protokoll.
→ 200 OK x-request-id: 01JD8P4W2Q…Einfach einstecken, ohne Reibung. Ihre Anwendungen rufen weiter die OpenAI-API auf. Das Gateway hält alles andere am Laufen: Routing, Guardrails, Budgets, Protokoll und Modellwahl.
Die Anteile sind beispielhaft. Die Zahlen sind das, was Ihr eigener Verkehr misst, pro Anfrage.
Jede Phase einer Anfrage wird einzeln gemessen und in Mikrosekunden in die Protokollzeile geschrieben, auch die entscheidende: Gesamtzeit minus Anbieteraufruf, also alles, was TORHAUS.AI selbst verbraucht hat. Die Detailansicht zeichnet das als gestapelten Balken. Eine Phase, die aus der Reihe fällt, ist damit sichtbar statt strittig.
Hosting ist kein technisches Detail. Es ist das, wofür Ihre Datenschutzbeauftragten, Ihr Betriebsrat und Ihr Plattformteam geradestehen können müssen, und was die Regulierung von Ihnen belegt sehen will. TORHAUS.AI lässt Sie das Hosting-Modell wählen, das zu den Anforderungen Ihres Unternehmens passt.
Wir betreiben TORHAUS.AI für Sie auf Infrastruktur in der Europäischen Union. Sie bekommen die Oberfläche am ersten Tag statt eines Einführungsprojekts.
Die Binary, in Ihrem Konto, in Ihrer Region, unter Ihrem Kubernetes oder Compose, mit Ihrem eigenen Postgres und Valkey.
Ihre eigene Hardware, Ihr eigenes Netz, und ein Gateway, das das Internet gern nie zu sehen bekommt.
Dreißig Minuten, Ihre Fragen und ein laufendes Gateway statt Folien. Bringen Sie die Person mit, die fragt, was mit den Prompts passiert. Das ist das Thema, für das wir brennen.
Entwickelt und betreut aus Rosenheim, Deutschland