193-mal schneller als ein LLM? Was hinter dem Entscheidungsmodell Jev steckt

TL;DR: Das US-Start-up TypeSafe AI hat mit Jev ein KI-Modell vorgestellt, das keine Texte schreibt, sondern nur entscheidet: Kategorie A oder B, Score von 0 bis 100, ja oder nein. Der Anbieter verspricht bis zu 200-mal schnellere und 400-mal günstigere Antworten als grosse Sprachmodelle. Unabhängige Tests bestätigen die Richtung, aber mit deutlich kleineren Faktoren. Interessant ist Jev weniger als Produkt, sondern als Hinweis darauf, dass ein grosser Teil der KI-Aufgaben im Betrieb gar kein Sprachmodell braucht.

Wenn ein Betrieb heute KI einsetzt, läuft im Hintergrund fast immer ein grosses Sprachmodell wie GPT, Claude oder Gemini. Und zwar auch dann, wenn die Aufgabe eigentlich nur eine Entscheidung ist: Gehört diese E-Mail in die Buchhaltung oder in den Verkauf? Ist diese Rechnung ein Duplikat? Ist dieser Kunde verärgert? Für solche Fragen ein Modell zu befragen, das darauf trainiert ist, Absätze zu formulieren, ist ungefähr so, als würdest du für jeden Ja-Nein-Entscheid ein Gutachten bestellen.

Genau hier setzt TypeSafe AI an. Das Unternehmen aus San Francisco ist am 15. September mit 40 Millionen Dollar Startkapital aus dem Verborgenen getreten, angeführt vom Investor DCVC, wie SiliconANGLE berichtet. Gründer und CEO ist Diogo Almeida, der bei OpenAI an RLHF mitgearbeitet hat, der Trainingsmethode hinter ChatGPT. Sein erstes Produkt heisst Jev, und TypeSafe nennt es ein "System One Model", in Anlehnung an Daniel Kahnemans Unterscheidung zwischen schnellem, intuitivem Denken (System 1) und langsamem, überlegendem Denken (System 2).

Wie funktioniert Jev

Ein Sprachmodell erzeugt seine Antwort Wort für Wort, oder eben Token für Token. Das ist der Grund, warum es Sekunden dauert und warum die Antwort mal so, mal anders ausfällt. Jev erzeugt keinen Text. Du gibst dem Modell einen Zustand (eine E-Mail, ein Support-Ticket, einen Datensatz) und eine oder mehrere Fragen mit fest definierten Antwortmöglichkeiten. Zurück kommt pro Frage eine Wahrscheinlichkeitsverteilung über diese Möglichkeiten. Drei Fragetypen gibt es laut Dokumentation: "Choice" wählt aus einer Liste, "Score" liefert einen Zahlenwert, "Noul" ein kalibriertes Ja oder Nein. Alle Fragen werden parallel beantwortet, in einem einzigen Aufruf. TypeSafe beschreibt das Ergebnis als "fuzzy decision rules", die sich wie eine If-Abfrage in bestehende Software einbauen lassen.

Die Zahlen, mit denen TypeSafe wirbt, sind aggressiv: Antwortzeit "70ms-500ms", "40x-200x faster" als grosse Modelle bei gleicher Intelligenz für solche Entscheidungsaufgaben, im besten gemessenen Workflow "193.6x faster, 444.6x cheaper". Der Preis liegt bei 0,042 Dollar pro Million Eingabe-Tokens, Ausgabe-Tokens sind gratis. Zum Vergleich: Claude Sonnet 5 kostet 2 Dollar pro Million Eingabe- und 10 Dollar pro Million Ausgabe-Tokens.

Die Zahlen, die wir haben

Diese Faktoren stammen aus TypeSafes eigener Auswertung, und der Anbieter ist dabei bemerkenswert offen über ihre Grenzen. Die vier Test-Workflows (Sicherheitsvorfälle, Agenten-Protokolle, Rechnungsverarbeitung, Kundenservice) wurden vom eigenen Team gebaut, "so some bias could exist". Als richtige Antwort gilt nicht ein menschliches Urteil, sondern der Durchschnitt zweier grosser Modelle, GPT-6 Astra und Claude Fable 5.1. Die Geschwindigkeitsmessungen liefen "from our laptops on the West Coast". Und den Bestwert von 193,6 ordnet TypeSafe selbst als "higher end of real world gains" ein. Zum Preis heisst es: "We can't prove it isn't subsidized."

Auffällig ist auch, was in der eigenen Tabelle steht, die DataCamp wiedergibt: Über die vier Workflows erreicht Jev 67,8 % Übereinstimmung mit der Referenz. Das mittlere OpenAI-Modell GPT-5.6 Terra liegt bei 67,9 %, die Spitzenmodelle bei 73 bis 74 %. Bei der Rechnungsverarbeitung fällt Jev laut der Nachrechnung des Entwicklers Pere Pages mit 61,8 % deutlich hinter die grossen Modelle (74,7 bis 79,1 %) zurück. Jev ist also nicht klüger, sondern gleich gut oder etwas schlechter, dafür massiv schneller und günstiger.

Wichtiger als die Anbieterzahlen sind die ersten unabhängigen Tests, und die sind innert drei Tagen zahlreich erschienen:

Die Eventplattform Near Here liess Jev, Gemini 3.5 Flash-Lite und Mistral Small 4 je 50 Veranstaltungseinträge prüfen. Jev lag mit 96 % richtigen Entscheidungen vorne (Gemini 86 %, Mistral 84 %), brauchte 0,59 Sekunden statt rund drei und kostete 0,043 Dollar pro tausend Entscheidungen statt 0,37 bis 2,50 Dollar.

Good Start Labs nutzte Jev als Prüfinstanz für 1'203 Finanzrecherche-Antworten mit insgesamt 6'003 Einzelchecks. Jev stimmte in 91,5 % der Fälle mit Claude Fable 5.1 überein, kostete aber 160 Dollar pro Million Bewertungen statt 33'000. Gegenüber dem günstigen DeepSeek V4.1 Flash (260 Dollar) relativiert sich der Vorteil allerdings wieder etwas.

Das Entwicklerteam von Pydantic AI hat Jev als Modell für Ticket-Routing in sein Framework eingebaut und mit 120 Support-Tickets getestet: 227 Millisekunden Median-Latenz gegenüber 1,4 Sekunden bei GPT-5.6 Luna und 1,9 Sekunden bei Claude Opus 5. Bei 5 der 120 Tickets war Jev sich zu unsicher und ein grosses Modell übernahm. Genau so ist es gedacht: Jev entscheidet, das LLM springt bei tiefer Konfidenz ein.

Zusammengenommen: Der Vorteil ist real. In den unabhängigen Tests liegt er bei der Geschwindigkeit beim Faktor 5 bis 11, bei den Kosten je nach Vergleichsmodell zwischen 1,6 und 200. Gegen ein Spitzenmodell ist der Abstand riesig, gegen ein günstiges kleines Modell überschaubar.

"Kann nicht halluzinieren", aber falsch entscheiden

Der Satz, der am meisten zitiert wird, ist auch der irreführendste. Jev kann tatsächlich keine Antwort ausserhalb der vorgegebenen Optionen liefern, weil es keinen Freitext erzeugt. Das schützt vor kaputten Datenformaten und erfundenen Funktionsaufrufen. Es schützt nicht vor falschen Entscheidungen. Ein Kommentator auf Hacker News bringt es auf den Punkt: "An approve for an unauthorized action still meets the schema guarantee." Auch The Register und The Decoder halten fest, dass die Garantie nur die Form der Antwort betrifft, nicht ihren Inhalt. Wer Jev einsetzt, braucht deshalb genau das, was man bei jedem Klassifikator braucht: einen eigenen Testdatensatz mit bekannten richtigen Antworten und eine Schwelle, ab der ein Mensch oder ein grösseres Modell übernimmt.

Das ist alles nur Early Access

Du wirst Jev in den nächsten Wochen kaum produktiv einsetzen. Das Modell ist im Early Access mit Warteliste, es gibt keinen öffentlich benannten Kunden, und laut Datenschutzerklärung laufen die Server in den USA. Immerhin: TypeSafe verpflichtet sich, nicht auf Kundendaten zu trainieren, und für Datenübermittlungen an zertifizierte US-Firmen gilt seit September 2024 das Swiss-US Data Privacy Framework. Bei Personendaten aus Kunden-E-Mails oder Rechnungen bleibt das trotzdem ein Punkt, den du vor dem Einsatz klären musst, und TypeSafe AI ist auch noch ein sehr junges Start-up.

Der eigentliche Nutzen von Jev liegt in der Frage, die es aufwirft. Ein Forschungspapier von NVIDIA schätzt, dass in bestehenden KI-Agenten-Systemen je nach Anwendung 40 bis 70 % der Aufrufe an grosse Sprachmodelle von kleinen, spezialisierten Modellen übernommen werden könnten. Unsere Erfahrung aus Automatisierungsprojekten deckt sich damit: Ein Grossteil der Schritte in einem Workflow ist Sortieren, Prüfen, Zuordnen. Nur ein kleiner Teil ist Formulieren.

Ein Rechenbeispiel, mit offengelegten Annahmen: Ein Betrieb klassifiziert 100'000 eingehende Nachrichten pro Monat, jede mit rund 500 Tokens Kontext und einer kurzen strukturierten Antwort von etwa 50 Tokens. Mit Claude Sonnet 5 kostet das laut Listenpreis rund 150 Dollar im Monat, mit Jev etwa 2 Dollar, weil die Ausgabe dort nichts kostet. Bei diesem Volumen ist der Unterschied nicht entscheidend. Er wird es, wenn man ganze Datenbestände durchsucht, wenn die Antwort in Echtzeit kommen muss, oder wenn man wie Good Start Labs jede Entscheidung mehrfach prüfen lassen will, weil es plötzlich fast nichts mehr kostet.

Fazit

Jev ist ein frühes, ehrgeizig vermarktetes Produkt eines sehr jungen, gehypten Silicon-Valley-Start-ups. Für uns ist die Lehre nicht "auf Jev umsteigen", sondern die Aufgaben anders zu sortieren: Wo braucht es wirklich ein Modell, das schreibt? Und wo reicht eines, das entscheidet? Die zweite Kategorie ist grösser, als die meisten denken. Und für sie gibt es, mit oder ohne Jev, heute schon deutlich günstigere Werkzeuge als ein Frontier-LLM.