Ein KI-Labor aus San Francisco hat diese Woche ein Modell vorgestellt, das keinen einzigen Satz schreiben kann. TypeSafe AI nennt Jev das erste “System-One-Modell”: Es bekommt einen Vorgang als Eingabe und gibt eine festgelegte Entscheidung zurück, zusammen mit einer Wahrscheinlichkeit, wie sicher es sich ist (The Register). Hinter dem Unternehmen steht mit Diogo Almeida ein früherer OpenAI-Forscher, der an RLHF und an ChatGPT mitgearbeitet hat. Für Unternehmen, die Back-Office-Prozesse automatisieren, ist an der Meldung weniger das Modell selbst interessant als diese Wahrscheinlichkeit.
Kurzfassung
TypeSafe AI hat Jev vorgestellt, ein Modell, das statt Text eine typisierte Entscheidung samt Wahrscheinlichkeit zurückgibt. Die Geschwindigkeits- und Preisangaben stammen aus eigenen Benchmarks des Herstellers und sind unabhängig nicht geprüft, die Aussage “halluzinationsfrei” ist irreführend. Eine belastbare Sicherheitsangabe je Vorgang ist die Voraussetzung dafür, Routinefälle durchlaufen zu lassen und nur die unklaren an einen Menschen zu geben. Einsetzbar ist Jev für deutsche Unternehmen noch nicht, es läuft im Early Access an der US-Westküste.
Was ein System-One-Modell anders macht
Ein Sprachmodell antwortet mit Text. Wer damit einen Prozess automatisiert, baut hinterher eine Schicht, die diesen Text wieder auseinandernimmt, und hofft, dass das Format hält. Jev überspringt diesen Umweg. Es beantwortet nur abgegrenzte Fragen und tut das in drei Formen: eine Auswahl aus bis zu 255 vorgegebenen Optionen, ein Wert auf einer Skala mit zwei bis zehn Stufen, oder ein Ja/Nein als Wahrscheinlichkeit zwischen 0 und 1 (TypeSafe, Produktdokumentation).
Dahinter steckt ein anderes Trainingsverfahren. TypeSafe nennt es RLCD und optimiert dabei die ausgegebenen Wahrscheinlichkeiten gegen tatsächliche Ergebnisse, nicht gegen menschliche Präferenz wie beim verbreiteten RLHF. Die Absicht dahinter: Eine Angabe von 0,9 soll im Mittel auch in neun von zehn Fällen richtig liegen, was sich außerhalb der eigenen Benchmarks aber erst zeigen muss.
Was an den Zahlen belegt ist und was nicht
TypeSafe wirbt mit deutlichen Werten: 70 bis 500 Millisekunden Antwortzeit, 0,042 US-Dollar je Million Eingabe-Token bei kostenloser Ausgabe, in einer Doom-Demo 0,114 Sekunden gegen 8,566 Sekunden für ein aktuelles Sprachmodell. Die daraus abgeleiteten Vergleiche von 193,6-fach schneller und 444,6-fach günstiger stammen aus Benchmarks, die das Unternehmen selbst entworfen hat und selbst durchführt. Nachgerechnet hat das bislang niemand von außen.
Bei einer Aussage lohnt besondere Vorsicht. TypeSafe bezeichnet Jev als halluzinationsfrei, weil ein festgelegtes Ausgabeformat keine erfundenen Inhalte zulässt. The Register hält den Vergleich für irreführend, und das zu Recht: Ein Modell, das nur zwischen vorgegebenen Optionen wählen darf, kann sich nichts ausdenken, es kann sich aber weiterhin für die falsche Option entscheiden. Woher Fehlausgaben bei Sprachmodellen kommen und was dagegen wirklich hilft, haben wir in der Einordnung zu KI-Halluzinationen im Unternehmen aufgeschrieben.
Der Hersteller benennt die Grenzen selbst, und die Liste ist lang: kein Text, kein Code, keine Zusammenfassungen, unzuverlässig beim Zählen und beim Rechnen mit Datumsangaben, Verneinungen werden wörtlich gelesen, und die Treffsicherheit sinkt, wenn im Eingabetext viel Irrelevantes steht. Jev ist ein Baustein in einem Prozess, den niemand direkt bedient.
Was das für automatisierte Prozesse bedeutet
Trotz aller Vorbehalte weist die Meldung auf eine echte Lücke hin. In den meisten automatisierten Abläufen fehlt heute eine ehrliche Antwort auf die Frage, wie sicher sich das System bei einem konkreten Vorgang eigentlich ist. Ein Sprachmodell formuliert seine Einschätzung überzeugend, egal ob es richtig liegt oder rät. Ohne belastbares Maß bleiben nur zwei schlechte Möglichkeiten: alles nachkontrollieren, dann spart die Automatisierung nichts, oder nichts nachkontrollieren, dann wandern Fehler ungeprüft weiter.
Eine kalibrierte Wahrscheinlichkeit löst das, weil sie sich als Schwelle verwenden lässt. Ein Rechnungseingang, eine eingehende E-Mail, ein Dokument, das einer Akte zugeordnet werden soll: Liegt das System über der Schwelle, läuft der Vorgang durch, liegt es darunter, landet er auf einem Schreibtisch. Und je riskanter die Aktion am Ende ist, desto höher gehört die Schwelle. Das ist genau die Mechanik, die wir in KI-Agenten Grenzen ziehen beschrieben haben, nur dass die Zahl dafür bisher meist geschätzt statt gemessen ist. Wie eine solche Vorsortierung in der intelligenten Dokumentenverarbeitung aussieht, zeigt den Prozess dahinter.
Die Idee ist nicht neu. Klassische Klassifikatoren liefern seit Jahren Konfidenzwerte, sie sind nur deutlich unflexibler in dem, was sie beurteilen können. Bemerkenswert an Jev ist der Versuch, beides zu verbinden: die Auffassungsgabe eines großen Modells mit einer Zahl, auf die sich ein Prozess verlassen kann.
Was jetzt zu tun ist
Für den deutschen Mittelstand ändert sich kurzfristig nichts. Jev ist im Early Access, läuft an der US-Westküste, und zur europäischen Datenresidenz sagt TypeSafe bislang nichts. Für Prozesse mit personenbezogenen Daten fehlt damit die Grundlage. Dazu kommt, dass eine neue Modellklasse mit eigenen Benchmarks und einem eigens erfundenen Namen erst einmal zeigen muss, dass sie außerhalb der Demos trägt.
Die Frage dahinter lohnt sich trotzdem schon jetzt. Sieh dir einen deiner automatisierten Abläufe an und prüfe, ob er überhaupt weiß, wann er unsicher ist. Falls nicht, ist das der Hebel, unabhängig davon, welches Modell am Ende darunter liegt. Der Beitrag zu Prompt Injection und KI-Sicherheit geht auf die verwandte Frage ein, wie man Agenten technisch absichert. Wenn du einen konkreten Prozess im Kopf hast, bei dem heute zu viel oder zu wenig nachgeprüft wird, sprechen wir kurz darüber.
