OpenAI hat GPT-4o mini veröffentlicht: Das Modell kostet 0,15 US-Dollar pro eine Million Input-Token und erzielt beim Reasoning-Benchmark MMLU 82 Prozent, womit es Googles Gemini 1.5 Flash (77,9 %) und Anthropics Claude Haiku (73,8 %) übertrifft. Für Unternehmen, die KI in großem Maßstab einsetzen, ist der Preis oft der entscheidende Faktor. GPT-4o mini liegt beim Input-Preis deutlich unter GPT-4o (2,50 US-Dollar) und löst GPT-3.5 Turbo ab. Das Modell verarbeitet Text und Bilder, unterstützt ein Kontextfenster von 128.000 Token und eignet sich laut OpenAI für Aufgaben wie Klassifizierung, Datenextraktion und automatisierte E-Mail-Antworten.

OpenAI GPT-4o Mini: Was das kleine Modell für Massenanwendungen bedeutet

OpenAI hat mit GPT-4o Mini ein kleineres, schnelleres und deutlich günstigeres Sprachmodell veröffentlicht, das seit dem 18. Juli 2024 sowohl über die API für Entwickler als auch direkt in ChatGPT für Verbraucher verfügbar ist. Enterprise-Kunden erhielten Zugang in der darauffolgenden Woche.

Preisgestaltung: Deutlich unter den Vorgängermodellen

Laut OpenAI-Preisliste kostet GPT-4o Mini 0,15 US-Dollar pro eine Million Input-Token und 0,60 US-Dollar pro eine Million Output-Token. Zum Vergleich: GPT-4o schlägt mit 2,50 US-Dollar (Input) zu Buche, o3-mini mit 1,10 US-Dollar. Damit positioniert sich das Modell klar für Szenarien, in denen dieselbe API-Funktion tausendfach täglich aufgerufen wird. Cached Input-Token sind sogar für 0,075 US-Dollar verfügbar.

Das Modell löst GPT-3.5 Turbo als kleinstes verfügbares OpenAI-Modell ab.

Benchmark-Werte im Vergleich

OpenAI nennt folgende Leistungsdaten gegenüber Wettbewerbern (Quelle: OpenAI):

• MMLU (Textintelligenz und Reasoning): GPT-4o Mini 82,0 %, Gemini Flash 77,9 %, Claude Haiku 73,8 %
• MGSM (mathematisches Reasoning): GPT-4o Mini 87,0 %, Gemini Flash 75,5 %, Claude Haiku 71,7 %
• HumanEval (Codierungsleistung): GPT-4o Mini 87,2 %, Gemini Flash 71,5 %, Claude Haiku 75,9 %
• MMMU (multimodales Reasoning): GPT-4o Mini 59,4 %, Gemini Flash 56,1 %, Claude Haiku 50,2 %

Das Modell akzeptiert Text- und Bildeingaben und liefert Textausgaben. Es verfügt über ein Kontextfenster von 128.000 Token und kann bis zu 16.384 Token ausgeben. Der Wissensstand ist auf Oktober 2023 datiert.

Vier praktische Implikationen für den Einsatz

1. Kostensensitive Massenanwendungen werden rentabler Anwendungsfälle wie Intent-Klassifikation, Keyword-Extraktion, Textübersetzung oder automatisches Tagging lassen sich mit GPT-4o Mini zu einem Bruchteil der bisherigen Kosten betreiben. Für Unternehmen, die Millionen von Anfragen monatlich verarbeiten, ist der Preisunterschied zu GPT-4o erheblich.

2. Fine-Tuning und Modell-Destillation als Qualitätshebel Laut OpenAI-Dokumentation eignet sich das Modell ausdrücklich für Fine-Tuning. Outputs eines größeren Modells wie GPT-4o können genutzt werden, um GPT-4o Mini zu trainieren (“Destillation”) und so ähnliche Ergebnisqualität bei geringerer Latenz und niedrigeren Kosten zu erzielen.

3. Strukturierte Datenextraktion und E-Mail-Automatisierung OpenAI berichtet, dass Partnerunternehmen wie Ramp und Superhuman das Modell für das Extrahieren strukturierter Daten aus Belegen sowie für das Generieren von E-Mail-Antworten einsetzen und dabei bessere Ergebnisse als mit GPT-3.5 Turbo erzielen.

4. Verbesserte Sicherheitsarchitektur GPT-4o Mini ist laut OpenAI das erste Modell, das die unternehmensinterne Methode der “Befehlshierarchie” implementiert. Diese soll die Widerstandsfähigkeit gegen Jailbreaks, Prompt-Injections und die ungewollte Extraktion von System-Prompts erhöhen, was besonders für Produktivumgebungen relevant ist.

Einordnung

GPT-4o Mini ist kein Ersatz für leistungsintensive Aufgaben, bei denen Modelle wie GPT-4o oder o3 gefragt sind. Die veröffentlichten Benchmark-Zahlen stammen von OpenAI selbst und sollten für konkrete Einsatzentscheidungen durch eigene Tests ergänzt werden. Für repetitive, klar definierte Aufgaben in großem Volumen stellt das Modell jedoch eine wirtschaftlich attraktive Option dar.

Quellen

• OpenAI unveils GPT-4o mini, a smaller and cheaper AI model – TechCrunch
• GPT-4o mini: Weiterentwicklung kosteneffizienter Intelligenz – OpenAI
• GPT-4o mini Model – OpenAI API Dokumentation

Häufige Fragen

Was ist GPT-4o mini und für wen ist das Modell gedacht?

GPT-4o mini ist ein kompaktes Sprachmodell von OpenAI, das auf schnelle und kosteneffiziente Aufgaben ausgerichtet ist. Es richtet sich primär an Entwickler, die KI-Funktionen in hohem Volumen einsetzen, sowie an Endnutzer über ChatGPT im Web und in der mobilen App. Das Modell akzeptiert Text- und Bildeingaben und gibt Textausgaben zurück. Es eignet sich besonders für fokussierte Aufgaben wie Klassifizierung, Übersetzung, Keyword-Extraktion und die Generierung strukturierter Daten.

Wie günstig ist GPT-4o mini im Vergleich zu anderen OpenAI-Modellen?

GPT-4o mini kostet 0,15 US-Dollar pro einer Million Input-Token und 0,60 US-Dollar pro einer Million Output-Token. Zum Vergleich: GPT-4o wird mit 2,50 US-Dollar (Input) berechnet, also rund 17-mal teurer. Damit löst GPT-4o mini GPT-3.5 Turbo als kleinstes und günstigstes Modell im OpenAI-Portfolio ab. Für Massenapplikationen mit häufigen, repetitiven API-Aufrufen kann dieser Preisunterschied erheblich ins Gewicht fallen.

Wie schneidet GPT-4o mini bei Benchmarks im Vergleich zu Wettbewerbern ab?

Im MMLU-Benchmark, der Text-Reasoning misst, erzielt GPT-4o mini 82,0 Prozent. Gemini 1.5 Flash kommt auf 77,9 Prozent, Claude Haiku auf 73,8 Prozent. Beim mathematischen Reasoning-Test MGSM erreicht GPT-4o mini 87,0 Prozent gegenüber 75,5 Prozent für Gemini Flash und 71,7 Prozent für Claude Haiku. Im Coding-Benchmark HumanEval erzielt das Modell 87,2 Prozent, während Gemini Flash bei 71,5 Prozent und Claude Haiku bei 75,9 Prozent liegen. Beim multimodalen Reasoning-Test MMMU kommt GPT-4o mini auf 59,4 Prozent, Gemini Flash auf 56,1 Prozent und Claude Haiku auf 50,2 Prozent.

Für welche konkreten Unternehmens-Use-Cases eignet sich GPT-4o mini besonders?

Das Modell eignet sich laut OpenAI vor allem für hochvolumige, klar definierte Aufgaben. Praxisbeispiele aus der Zusammenarbeit mit ausgewählten Partnerunternehmen zeigen, dass GPT-4o mini beim Extrahieren strukturierter Daten aus Belegdateien sowie bei der automatisierten Generierung von E-Mail-Antworten mit Thread-Verlauf deutlich besser abschneidet als GPT-3.5 Turbo. Weitere in der API-Dokumentation genannte Anwendungsfälle sind Intent-Klassifizierung, Textübersetzung und die automatische Vergabe von Tags.

Welche technischen Spezifikationen und Sicherheitsmerkmale hat GPT-4o mini?

GPT-4o mini verfügt über ein Kontextfenster von 128.000 Token und unterstützt bis zu 16.384 Output-Token pro Anfrage. Der Wissensstand des Modells reicht bis Oktober 2023. Es unterstützt Structured Outputs sowie Fine-Tuning, wobei sich Ausgaben größerer Modelle wie GPT-4o auf GPT-4o mini destillieren lassen. In Sachen Sicherheit ist GPT-4o mini das erste OpenAI-Modell, das eine sogenannte Instruktionshierarchie einsetzt. Diese soll die Widerstandsfähigkeit gegenüber Jailbreaks, Prompt-Injections und der ungewollten Preisgabe von System-Prompts erhöhen.