Luca Morelli
Software Engineer und Analyst
Teamleiter

Das KI-Modell wählen: was es kostet, wie lange es hält, wie leicht es sich wechseln lässt.

Das Modell ist der Teil einer KI-Anwendung, der sich am schnellsten ändert: Neue Versionen erscheinen, Preise bewegen sich, Dienste werden eingestellt. Für das Unternehmen zählen drei Dinge: die Kosten des gesamten Dienstes, wie lange er funktionieren wird und was ein Kurswechsel kostet. Das Ergebnis einer öffentlichen Rangliste kommt danach.

Von der Aufgabe ausgehen

Welches ist das kostengünstigste Modell, das die Anforderungen dieser Aufgabe zuverlässig erfüllt?

Zunächst kläre ich Mindestqualität, Antwortzeit, Zahl der Anfragen, Datenschutz und Kontinuität. Die Wahl eines Anbieters folgt später. Ein insgesamt hervorragendes Modell kann für eine bestimmte Tätigkeit ungeeignet sein; ein kleineres kann genügen, wenn repräsentative Tests dies zeigen.

Die organisatorische und wirtschaftliche Bewertung geht dieser Wahl voraus. Die technische Qualität der Antworten erfordert gesonderte Entwicklungs- und Prüfungsarbeit.

Die Voraussetzungen: Machbarkeit eines KI-Projekts

Die Kosten des gesamten Dienstes

Der Preis des Modells, das nach Nutzung abgerechnet wird, ist ein Teil der Rechnung. Hinzu kommen Datenaufbereitung, Infrastruktur, Wiederholungen, Prüfungen durch Personen, Überwachung und Wartung. Ein eigener Server erfordert Hardware und jemanden, der ihn betreibt; bei geringer oder unregelmäßiger Nutzung kann ein nutzungsabhängig abgerechneter Dienst wirtschaftlicher sein.

Die Preise nutzungsabhängiger Dienste werden pro Token angegeben, den Texteinheiten, die ein Modell liest und schreibt. Die Preisliste sagt jedoch nicht, wie viele Token für ein brauchbares Ergebnis nötig sind: Das hängt von der Aufgabe, der Länge der übergebenen Dokumente, den Schritten des Ablaufs sowie von Wiederholungen und Korrekturen ab und unterscheidet sich von Modell zu Modell. Manche Modelle „denken“ vor der Antwort nach: Dieser Denktext wird als Ausgabe abgerechnet, auch wenn er nicht angezeigt wird; die Rechnung entspricht also nicht dem, was in der Antwort zu lesen ist. Eine Studie zu Programmier-Agenten (acht Modelle, reale Aufgaben zur Fehlerbehebung in Software) fand bei verschiedenen Durchläufen derselben Aufgabe Unterschiede im Token-Verbrauch von bis zum 30-Fachen und zeigte, dass mehr Token keine höhere Genauigkeit garantieren. Eine Formel vom Preis pro Token zu den Kosten des Ergebnisses gibt es nicht: Man misst Fall für Fall, mit Tests anhand realer Anfragen, und wiederholt die Messung, wenn sich Modell, Daten oder Ablauf ändern.

In McKinseys Umfrage vom Mai 2026 berichteten 93 % der 75 qualifizierten Befragten von einer Überschreitung ihres KI-Budgets. Die Stichprobe repräsentiert nicht alle Unternehmen, macht aber auf die Kosten einer breiten Einführung aufmerksam.

Ein im Oktober 2026 bekannt gewordener Fall: Laut 404 Media, dem eine interne Mitteilung vorlag, zahlt Accenture seit dem 1. Oktober pro Person 29 Dollar im Monat für Claude; höhere Ausgaben müssen einem Projekt oder Team zugeordnet werden. Einige Beschäftigte gaben bis zu 1.000 Dollar im Monat aus. Accenture hat die Entscheidung nicht öffentlich begründet, doch der Fall zeigt, wie stark die Ausgaben mit demselben Werkzeug von Person zu Person schwanken können, und eine mögliche Antwort: die Kosten der Tätigkeit zuzuordnen, die sie verursacht, wo sie sich mit dem Ergebnis vergleichen lassen.

Ein Ablauf kann unterschiedliche Tätigkeiten an verschiedene Modelle weiterleiten: höhere Leistungsfähigkeit, wo das Problem sie erfordert, günstigere oder spezialisierte Modelle für klar definierte Schritte. Jeder Pfad muss die Datenvorgaben einhalten und dieselben Qualitätsprüfungen bestehen.

Auch das Abwarten bewerten

Meiner Einschätzung nach verdient auch der Verzicht auf eine Einführung eine Bewertung: Ein Wettbewerber könnte eine Tätigkeit früher automatisieren oder früher Kompetenzen aufbauen. Das ist ein zu prüfendes strategisches Szenario, keine Prognose für jedes Unternehmen.

Ich schlage aktive Vorsicht vor: in einem begrenzten Rahmen erproben, Nutzen und Kosten messen, Kompetenzen erhalten und anhand eigener Erkenntnisse entscheiden. Ein Projekt kann verschoben oder verworfen werden, wenn der Nutzen Investition und Risiken nicht rechtfertigt.

Externer Dienst, dedizierte Cloud oder eigener Server

Ein „offenes“ Modell (Open-Weight) lässt sich herunterladen und auf eigenen Rechnern ausführen. Das bedeutet weder kostenlos noch frei von Nutzungsbedingungen noch zwangsläufig günstig; und dasselbe Modell lässt sich auch über einen externen Dienst nutzen.

Epoch AI stellt in seiner Analyse vom Mai 2026 fest: Seit Januar desselben Jahres lagen die besten offenen Modelle im eigenen Index durchschnittlich etwa vier Monate hinter den besten proprietären Modellen. Das ist ein Ergebnis für diesen Zeitraum und diese Messgröße: Es besagt nicht, dass sie bei jeder Aufgabe gleichwertig sind.

Externer Dienst mit nutzungsabhängiger Abrechnung

Dienste wie OpenRouter, die OpenAI-API oder verwaltete Cloud-Anbieter-APIs können einen einfachen Zugang zu Modellen und skalierbare Kapazität bieten. Sie können für ein Projekt geeignet sein, wenn die Daten unter den Bedingungen des Dienstes verwendet werden können und die Reduzierung des Betriebsaufwands wichtig ist.

Überprüfen Sie die Kosten, die Datenaufbewahrung und den Standort, die Nutzung für das Training sowie die geltenden Vereinbarungen. Bei einem Vermittler wie OpenRouter ist auch der Modellanbieter wichtig, insbesondere wenn die Weiterleitung geändert werden kann. Verwaltete Cloud-APIs können unterschiedliche Netzwerk- und geografische Optionen bieten: Der Name des Dienstes allein sagt wenig über seine Datenschutzvereinbarungen aus.

Dedizierte Cloud-Ressourcen

Eine weitere Option ist das Ausführen eines Modells auf dedizierten Cloud-Ressourcen, wie z. B. Maschinen mit dedizierten Grafikkarten (GPU) auf Azure oder AWS. Dies bietet mehr Kontrolle über das Modell, das Netzwerk und den Zugriff, bedeutet jedoch, das Modell zu betreiben und für die Infrastruktur zu zahlen. Datenschutz und Compliance hängen weiterhin von der Konfiguration und den geltenden Vereinbarungen ab.

Server im eigenen Unternehmen

Ein Modell auf Ihrer eigenen Infrastruktur kann mehr Kontrolle über den Datenpfad bieten, erfordert jedoch Hardware, Updates, Überwachung und Wartung. Der GPU-Speicher begrenzt, welche Modelle ausgeführt werden können; Antwortzeit und Kapazität hängen auch von der Rechenleistung, der Anfragelänge und den gleichzeitigen Benutzern ab. Bevor Sie diesen Weg wählen, messen Sie die Antwortzeiten und die Arbeitslast auf der vorgeschlagenen Hardware mit repräsentativen Tests.

Die praktische Konsequenz: das System so aufbauen, dass sich das Modell wechseln lässt, wenn es sich lohnt, ohne für diese Freiheit mehr auszugeben, als das Projekt rechtfertigt.

Wie lange muss die Lösung funktionieren?

Mit einem Modell, das auf eigenen Rechnern läuft, lässt sich eine Konfiguration beibehalten, solange sie die Anforderungen erfüllt. Ein neues Modell erfordert nicht automatisch einen Wechsel; Sicherheitsaktualisierungen und Komponentenwartung bleiben notwendig.

Ein externer Dienst hat einen anderen Lebenszyklus: OpenAI und Anthropic veröffentlichen die Termine, zu denen Modelle eingestellt werden. Ein notwendiger Wechsel, weil ein Dienst entfällt, ist von einem wirtschaftlich sinnvollen Wechsel zu unterscheiden, der Qualität, Kosten oder Leistung verbessert.

Ich plane deshalb Aufwand für eine erneute Bewertung und die Kontinuität des Dienstes ein. Modellunabhängigkeit ist eine Investition: Ihr Wert steigt mit der Wahrscheinlichkeit und den Kosten eines späteren Wechsels.

Sich nicht an einen Anbieter binden

Ich halte den Teil, der vom Anbieter des Modells abhängt, vom Rest der Anwendung getrennt: Unternehmensregeln, Berechtigungen und Daten bleiben außerhalb. So betrifft ein Modellwechsel nur einen klar begrenzten Teil. Kostenlos wird er dadurch nicht: Modelle verhalten sich unterschiedlich und müssen erneut getestet werden.

Ich würde das System in Teile mit klaren Verantwortlichkeiten gliedern:

  1. 01Anwendung und Fachdomäne

    Produktregeln, Berechtigungen und Daten, für die die Anwendung verantwortlich bleibt.

  2. 02Ablauf und Werkzeuge

    Schritte, Prüfungen, Informationsabruf und zulässige Aktionen.

  3. 03Modelladapter

    Anbieterspezifische Formate, Anweisungen, strukturierte Ausgaben und Werkzeugaufrufe.

  4. 04Modell und Ausführungsumgebung

    Ein externer Dienst oder ein Modell auf kontrollierten Ressourcen.

Dies ist ein Entwurfsvorschlag, keine allgemeingültige Vorgabe. Adapter verringern Abhängigkeiten, doch Modelle verhalten sich unterschiedlich: Ein Wechsel erfordert häufig Anpassungen an Prompts, Werkzeugen und Kontextverwaltung.

Modellwechsel: nur mit Tests

Bevor ich ein Modell ersetze, vergleiche ich das alte und das neue anhand der realen Anfragen des Unternehmens und schwieriger Fälle, mit vorab festgelegten Kriterien: korrekte und an die Quellen gebundene Antworten, vollständig erledigte Aufgabe, Zeiten und Kosten pro Vorgang, Verhalten, wenn etwas schiefgeht. Die Tests werden nach jeder Änderung an Modell, Daten oder Ablauf wiederholt. Eine öffentliche Rangliste hilft bei der Auswahl der Kandidaten; sie ersetzt nicht den Test an der Anwendung.

Ein Beispiel für einen überprüfbaren Anwendungsablauf

Sicherheit von KI-Anwendungen

Was Sie fragen sollten, wenn Ihnen jemand ein Modell vorschlägt

  • Warum dieses Modell und nicht ein günstigeres? Mit welchen Tests an unseren Fällen?
  • Wie hoch sind die monatlichen Kosten des gesamten Dienstes, nicht nur des Modells? Gemessen in Tests mit unseren Fällen oder aus der Preisliste geschätzt?
  • Wo liegt die monatliche Ausgabenobergrenze, und wer entscheidet, was bei einer Überschreitung geschieht?
  • Bis wann garantiert der Anbieter dieses Modell, und was geschieht danach?
  • Was würde der Wechsel zu einem anderen Modell oder Anbieter kosten?
  • Wer wiederholt die Tests, wenn sich das Modell ändert?

Quellen zur Einordnung

Die Quellen stützen Fakten und Bewertungskriterien. Der Architekturvorschlag und die Abwägung zwischen Einführung und Abwarten sind meine methodischen Vorschläge, keine für jedes Projekt nachgewiesenen Ergebnisse.

Inhalt zuletzt aktualisiert am

Wählen Sie ein Modell für eine Anwendung aus?

Ausführlicher Lebenslauf und Referenzen auf Anfrage verfügbar.