Letzte Woche habe ich For German gelauncht, einen Übersetzungstutor auf der Lab-Seite dieser Website. Jeder im Internet kann englischen oder deutschen Text tippen, diktieren oder fotografieren und bekommt die Übersetzung mit erklärter Grammatik, jedes Wort nach seiner Rolle im Satz markiert, plus IPA für die schweren Wörter. Das Ganze läuft auf meinem persönlichen Anthropic-API-Key.
Dieser letzte Satz ist das interessante Engineering-Problem. Ein öffentlicher Endpoint an deinem eigenen Key ist eine Einladung: Eine Person in einer Schleife verbrennt dein Monatsbudget vor dem Frühstück. Das Feature ist nicht der Modellaufruf — Claude übersetzt wunderbar mit einem gecachten System-Prompt. Das Feature ist alles, was darum herum gebaut ist.
Vier Schichten, die billigste zuerst:
Ein deterministisches Gate, das kostenlos ablehnt. Eingaben in einer Schrift, die weder Englisch noch Deutsch sein kann (ein Unicode-Range-Check), reine URLs, leere Eingaben — alles wird mit einem höflichen Satz abgelehnt, bevor irgendein API-Aufruf passiert. Nein sagen kostet 0,00 € und ein paar Mikrosekunden. Nur plausibel übersetzbarer Text darf Geld ausgeben.
Ein Kontingent pro IP. Zwanzig Anfragen pro IP und Tag, Reset um Mitternacht UTC. Genug für echte Nutzung; nutzlos für Missbrauch.
Ein globales Tagesbudget mit Reserve-und-Commit-Buchführung. Das Tool als Ganzes darf 200 Cent pro Tag ausgeben. Jede Anfrage reserviert vor dem API-Aufruf einen Worst-Case-Betrag und bucht nach Ende des Streams die echten Kosten. Unter Nebenläufigkeit ist dieser Unterschied entscheidend: Mit naivem Prüfen-dann-Ausgeben sehen zehn gleichzeitige Anfragen alle „Budget verfügbar" und reißen die Grenze gemeinsam. Reservierungen können das nicht.
Prompt-Caching und ein begrenztes Modell. Der System-Prompt ist
ein gecachter Block, identisch für alle Besucher, sodass die meisten
Anfragen Cache-Reads sind. Dazu ein gedeckeltes max_tokens, und
Haiku statt eines Frontier-Flaggschiffs — eine eng umrissene Aufgabe
braucht keins.
Das Ergebnis: Die teuerste Anfrage (eine ungecachte Bildübersetzung) reserviert 4 Cent. Eine typische gecachte Textanfrage bucht deutlich unter einem. Das ganze Tool kostet pro Tag weniger als der Kaffee, den ich beim Blick in seine Logs trinke, und wenn es je viral geht, ist der Fehlermodus ein freundliches „komm morgen wieder", keine Rechnung.
Die übertragbare Lektion, die in einem Unternehmen genauso gilt wie auf einer Portfolio-Seite: Ausgaben als erstklassige Ressource zu behandeln — reserviert, gebucht, abgeglichen, pro Aufrufer und global — ist, was aus „wir haben ein LLM-Feature ausprobiert" ein „wir betreiben ein LLM-Feature" macht. Das Modell ist der billige Teil.