Zum Inhalt springen
Bezahlt 🇩🇪 Deutschsprachig 🇪🇺 EU-Server Zuletzt geprüft: 3. Oktober 2026

Azure OpenAI Service

Microsoft

5/5

Redaktionelle Einschätzung auf Basis von 6 öffentlichen Quellen. Kein Hands-on-Produkttest, sofern nicht ausdrücklich anders angegeben. Die Sternebewertung ist eine Meinung der Redaktion.

Mit KI-Agenten recherchiert und geschrieben, verantwortlich: Redaktion KI-Syndikat. So arbeiten wir Fehler melden

Tool öffnen

Azure OpenAI Service im Team einführen? KI-Training anfragen

Azure OpenAI in Microsoft Foundry bringt die OpenAI-Modelle in die Azure-Cloud, mit EU-Regionen, Private Endpoints und ohne Training auf deinen Daten. Verfügbar sind GPT-5 bis GPT-5.6 (Luna, Terra, Sol), dazu Bild-, Transkriptions- und Embedding-Modelle; GPT-4o mini, GPT-4.1 und die o-Reasoning-Modelle sind für Neukunden bereits abgekündigt. Im Unterschied zur direkten OpenAI-API laufen Anfragen in einer gewählten Azure-Region, in der EU unter anderem in Westeuropa (Niederlande), Sweden Central und Germany West Central, mit VNET-Isolation, Private Endpoints, Entra-ID-Anbindung und vertraglich zugesicherter Datenresidenz. Für deutsche Unternehmen, die OpenAI-Modelle DSGVO-konform produktiv einsetzen wollen, ist Azure OpenAI in den meisten Fällen der saubere Weg.

Kosten: Pay-as-you-go nach Token (Input/Output) oder Provisioned Throughput Units (PTU) für garantierte Kapazität; Global Standard je 1M Input-/Output-Token: GPT-5.6 Sol 4 / 20 USD, GPT-5.6 Terra 2 / 12 USD, GPT-5.6 Luna 0,20 / 1,20 USD; auslaufend GPT-4o ab ca. 2,50 USD / 1M Input-Token und 10 USD / 1M Output, GPT-4o mini ab 0,15 / 0,60 USD (für Neukunden gesperrt); Reasoning-Modelle o1, o3 und o4-mini werden am 19. November 2026 abgeschaltet; DALL-E und Whisper separat tarifiert; Azure-Abonnement und in einigen Fällen Antrag auf Modellzugriff erforderlich

Kategorien

Stärken

  • Breites OpenAI-Portfolio unter einem Azure-Vertrag: GPT-5 bis GPT-5.6 (Luna, Terra, Sol), Bildmodelle, Transkription und Text-Embeddings
  • EU-Regionen mit echter Datenresidenz: West Europe (Amsterdam), Sweden Central, Germany West Central, Eingaben verlassen die gewählte Region nicht
  • Daten werden vertraglich nicht für Training oder Modellverbesserung verwendet, bestätigt im Microsoft Product Terms / DPA
  • VNET-Integration, Private Endpoints, Customer-Managed Keys (CMEK) und Microsoft Entra ID (vormals Azure AD) für Zero-Trust-Architekturen
  • Provisioned Throughput Units (PTU) für planbare Kapazität und reservierte Latenz, für produktionskritische Workloads ein echter Vorteil gegenüber pay-per-token
  • Native Integration in Microsoft Foundry (vormals Azure AI Foundry), Azure AI Search (RAG), Azure Functions, Logic Apps und Power Platform
  • BSI-C5-Testat, ISO 27001/27017/27018, SOC 2, EU-Cloud-Code-of-Conduct, Compliance-Suite, die deutsche Compliance-Abteilungen kennen
  • Deutschsprachiger Microsoft-Enterprise-Support über bestehende Azure-Verträge

Einschränkungen

  • Modelle sind oft mehrere Wochen bis Monate nach OpenAI-Release verfügbar, wer das Allerneueste braucht, muss zur OpenAI-API
  • Kurze Lebenszyklen: GPT-4o mini, GPT-4.1 und die o-Reasoning-Modelle sind für Neukunden gesperrt, o1, o3 und o4-mini werden am 19. November 2026 abgeschaltet
  • Komplexe Quoten und regionale Verfügbarkeit: Nicht jedes Modell ist in jeder EU-Region zur gleichen Zeit deployable
  • Pricing-Komplexität durch zwei Modelle parallel (Pay-as-you-go vs. PTU) plus regionale Aufschläge, schwer planbar ohne Cost-Tooling
  • Setup verlangt Azure-Know-how (Resource Groups, IAM, Networking), kein No-Code-Einstieg möglich
  • Für einzelne Modelle (insbesondere bei Markteinführung) ist weiterhin ein Antragsverfahren nötig, Verfügbarkeit nicht garantiert
  • Keine Consumer-UI, Azure OpenAI ist eine API, nicht ChatGPT-im-Browser. Wer eine Chat-Oberfläche will, baut sie selbst oder kauft Microsoft 365 Copilot dazu
  • Vendor-Lock-in zur Microsoft-Cloud, Migration zu AWS Bedrock oder Vertex AI bedeutet Re-Architecting

Passt gut zu

Microsoft-zentrierte Unternehmen mit bestehendem Azure-Stack Regulierte Branchen (Finanzen, Versicherungen, Gesundheit, Behörden), die OpenAI-Modelle DSGVO-konform brauchen Entwickler-Teams mit Bedarf an produktionsreifer Infrastruktur (PTU, Private Endpoints, Audit) Mittelstand und Konzerne, die ChatGPT-Funktionen in eigene Anwendungen einbetten wollen

Wann ja, wann nein

Wann ja

  • Du nutzt Azure bereits produktiv, Entra ID, Azure DevOps, Azure Monitor sind im Einsatz
  • Du brauchst OpenAI-Modelle mit AVV, EU-Datenresidenz und keiner Training-Nutzung
  • Du willst RAG-Anwendungen mit Azure AI Search und GPT-5.6 aufbauen
  • Dein Workload braucht garantierte Kapazität und niedrige Latenz (PTU statt pay-per-token)

Wann nein

  • Du brauchst die Modelle am Tag-1-Release und kannst nicht warten, dann direkt zur OpenAI-API
  • Du suchst eine Chat-Oberfläche für Endnutzer, nimm ChatGPT Enterprise oder Microsoft 365 Copilot
  • Dein Unternehmen ist bewusst Multi-Cloud und vermeidet Microsoft-Bindung, prüfe AWS Bedrock oder Vertex AI
  • Du willst ein Foundation-Modell ohne US-Konzern-Bezug, dann Mistral, oder Aleph Alpha für den Betrieb im eigenen Rechenzentrum (seit September 2026 in der Fusion mit dem kanadischen Anbieter Cohere)

Kurzfazit

Azure OpenAI ist die Enterprise-Variante der OpenAI-Modelle in Microsofts Cloud: EU-Regionen mit Datenresidenz, AVV nach Microsoft-Standard und vertraglich kein Training auf deinen Eingaben. Arbeitsmodelle sind GPT-5.6 Luna, Terra und Sol, Sol kostet 4 USD pro Million Input- und 20 USD pro Million Output-Token. Die Schwächen liegen im Drumherum: Neue Modelle kommen verzögert, alte laufen schnell aus, das Pricing ist komplex, und ohne Azure-Know-how kommst du nicht weit. Für AWS- oder GCP-Häuser lohnt der Vergleich mit Bedrock und Vertex AI.

Für wen ist Azure OpenAI Service?

Microsoft-zentrierte Unternehmen: Wer bereits Microsoft Entra ID für Identity, Azure DevOps für CI/CD und Azure Monitor für Observability nutzt, bekommt mit Azure OpenAI die fehlende KI-Komponente nahtlos integriert. Die gleiche IAM-Logik, die gleichen Audit-Logs, der gleiche Support-Vertrag, keine zusätzliche Vendor-Beziehung, kein zweiter AVV.

Regulierte Branchen mit DSGVO-Pflicht: Banken, Versicherungen, Krankenhäuser, Energieversorger und Behörden brauchen vertraglich zugesicherte Datenresidenz und dokumentierte Compliance. Azure OpenAI liefert beides: BSI-C5-Testat (in Deutschland für KRITIS und Behörden relevant), ISO 27001/27017/27018, SOC 2, EU-Cloud-Code-of-Conduct. Eingaben verlassen die gewählte Region nicht, werden nicht für Training verwendet, und der Microsoft-AVV ist als Standardvertrag akzeptiert.

Entwickler-Teams für produktionskritische Workloads: Wer ein GPT-Modell produktiv mit garantierter Latenz und Kapazität betreiben will, braucht Provisioned Throughput Units (PTU). Diese reservieren feste Kapazität, kein Throttling bei Spitzenlast, kein “noisy neighbour”-Problem. Für Chatbots im Kundendienst, agentische Workflows und Echtzeit-Anwendungen ist das ein echter Unterschied gegenüber pay-per-token-APIs.

Mittelstand mit Eigenbau-Anwendungen: Wer ChatGPT-Funktionen in die eigene CRM-Oberfläche, das Intranet oder ein Fachportal einbauen will, bekommt mit Azure OpenAI eine API mit Enterprise-Komfort: Private Endpoints, Content Filter, Customer-Managed Keys, deutsche Rechnung von Microsoft Deutschland.

Weniger geeignet für: Endnutzer, die nur einen Chatbot brauchen (dafür ist ChatGPT oder Microsoft 365 Copilot der einfachere Weg), Teams, die zwingend am Tag-1-Release jedes neuen OpenAI-Modells arbeiten müssen (dann direkt zur OpenAI-API), Multi-Cloud-Strategen, die Microsoft-Bindung vermeiden wollen (Vertex AI oder AWS Bedrock), und alle, die ohne Azure-Erfahrung schnell starten wollen, die Lernkurve ist real.

Preise im Detail

GPT-5-Generation (aktuell, Stand 3. Oktober 2026, Pay-as-you-go, Global Standard in East US 2, kurzer Kontext):

ModellPreis (Input / Output pro 1M Token)Anmerkung
GPT-5.6 Sol4 / 20 USD (Cache-Input 0,40 USD)Teuerste Stufe der GPT-5.6-Reihe, von Microsoft als Ersatz für o1, o3 und GPT-4o 2024-05-13 genannt
GPT-5.6 Terra2 / 12 USDMittlere Preisstufe, Ersatz für o3-mini und o4-mini
GPT-5.6 Luna0,20 / 1,20 USDGünstigste Stufe für hohe Volumina
GPT-5.55 / 30 USD (Cache-Input 0,50 USD)Modellversion vom April 2026, teurer als GPT-5.6 Sol
GPT-51,25 / 10 USDAbschaltung laut Zeitplan am 9. Februar 2027, langer Kontext (bis ca. 400K Token)
GPT-5 mini0,25 / 2 USD (regional schwankend)Günstiger Allrounder, ebenfalls bis 9. Februar 2027
GPT-5 nano0,05 / 0,40 USDSparmodell für Klassifikation, einfache Tasks, hohe Volumina

Eine Pro-Variante von GPT-5.5 führt Azure nicht, die neueste Pro-Variante im Zeitplan ist GPT-5.4 Pro. Die Azure-Preisliste nennt seit dem 1. September 2026 außerdem GPT-6 Astra (10 / 50 USD), GPT-6 Sol (2 / 10 USD) und GPT-6 Luna (0,10 / 0,50 USD). Im Lebenszyklus-Zeitplan der Modelle tauchen die drei am 3. Oktober 2026 noch nicht auf, prüfe vor der Planung im Foundry-Portal, ob du sie in deiner Region deployen kannst.

Auslaufende Modelle und Zusatzdienste:

KomponentePreisAnmerkung
GPT-4oab ca. 2,50 USD / 1M Input-Token, 10 USD / 1M OutputVersion 2024-11-20 „Legacy”, Abschaltung am 14. April 2027, Ersatz GPT-5.1. Die Versionen 2024-05-13 und 2024-08-06 sind für Neukunden gesperrt
GPT-4o miniab ca. 0,15 / 0,60 USD pro 1M Token„Deprecated”, also nur noch für Bestandskunden, Abschaltung am 14. April 2027
GPT-4.1ab ca. 2 / 8 USD pro 1M Token„Deprecated”, Abschaltung am 14. April 2027, GPT-4.1 nano schon am 14. Oktober 2026
o1 / o3 / o4-mini (Reasoning)keine neuen Deployments„Deprecated”, Abschaltung am 19. November 2026, Ersatz GPT-5.6 Sol bzw. Terra
DALL-E 3ab ca. 0,04 USD pro Standard-BildPro Bildauflösung gestaffelt
Whisperab ca. 0,006 USD pro Minute Audio (0,36 USD pro Stunde, Batch global)Speech-to-Text, Version 001 wird am 15. Dezember 2026 abgeschaltet, gpt-4o-transcribe 2025-03-20 schon am 15. Oktober 2026. Nachfolger gpt-transcribe ab 0,27 USD pro Stunde (global)
Text-Embeddings (text-embedding-3-large)ab ca. 0,13 USD pro 1M TokenFür RAG-Indizes
Provisioned Throughput Units (PTU)ab ca. 2 USD / Stunde pro PTU (Pay-as-you-go) bzw. günstiger mit Reservation (1 Monat / 1 Jahr)Reserviert Kapazität, garantiert Latenz
Azure-AbonnementPay-as-you-go ohne MindestumsatzEnterprise Agreement bei größeren Volumen empfohlen

Einordnung: Auf Tokenebene liegt Azure OpenAI sehr nah an den Listenpreisen von OpenAI selbst, der Aufschlag für die Enterprise-Verpackung ist klein bis nicht vorhanden. Die echten Kostenrisiken liegen woanders: PTU sind teuer, wenn man sie überdimensioniert, und regionale Aufschläge in Germany West Central oder Sweden Central können je nach Modell spürbar höher sein als in West US. Wer die großen Modelle (GPT-5.5, GPT-5.6 Sol) unkontrolliert einsetzt, sieht die Rechnung schnell zwei- bis dreistellig pro Tag. Empfehlung: ein kleines Modell (GPT-5.6 Luna oder GPT-5 mini) als Default für den Großteil der Anfragen, GPT-5.6 Terra für anspruchsvollere, GPT-5.6 Sol nur für wirklich harte Reasoning-Tasks. Wer heute noch GPT-4o mini oder o3 produktiv nutzt, plant die Migration jetzt: o1, o3 und o4-mini werden am 19. November 2026 abgeschaltet, GPT-4o mini und GPT-4.1 am 14. April 2027. PTU lohnt sich erst bei stabilem, hohem Tokenvolumen (Daumenregel: ab ca. 50 Mio. Token/Monat), darunter ist pay-per-token günstiger. Azure Cost Management plus Budget Alerts sind Pflicht, bevor der erste Endpoint live geht.

Stärken im Detail

OpenAI-Modelle mit Enterprise-Vertrag. Wer GPT-5.6 oder ein anderes OpenAI-Modell nutzen möchte, hat zwei Wege: die direkte OpenAI-API (US-Vertrag, eingeschränkte Datenresidenz, AVV nur über Enterprise-Plan) oder Azure OpenAI mit Microsoft als Vertragspartner. Letzteres ist für deutsche Unternehmen meist die bessere Wahl: Microsoft Deutschland als Rechnungssteller, deutsche Steuerfaktur, EU-Standardvertragsklauseln, dokumentierter AVV nach Microsoft Product Terms. Die gleichen Modelle, aber rechtlich sauber eingebettet.

Echte Datenresidenz in der EU. Azure OpenAI läuft in West Europe (Amsterdam), Sweden Central und Germany West Central (Frankfurt-Region), und Microsoft sichert vertraglich zu, dass Eingaben die gewählte Region nicht verlassen, sofern Cross-Region-Inference nicht aktiv eingeschaltet wird. Das ist ein materieller Unterschied zu Vertex AI, wo die Region-Wahl ohne Zusatzkonfiguration keine Garantie ist. Für DSGVO-Bewertungen und Datenschutz-Folgenabschätzungen ist das ein deutlicher Vorteil.

Eingaben werden nicht für Training verwendet, vertraglich. Microsoft Product Terms und das Data Protection Addendum stellen explizit klar: Daten von Azure OpenAI Service-Kunden werden weder für das Training von OpenAI-Modellen noch für die Verbesserung von Microsoft-Produkten verwendet. Optional aktivierbares Abuse Monitoring kann mit einem Antragsverfahren auch deaktiviert werden, relevant für besonders sensible Branchen (Anwälte, Ärzte), wo selbst Microsoft-interne Reviewer nicht auf Inhalte zugreifen sollen.

Provisioned Throughput Units (PTU) für planbare Produktion. Pay-per-token ist gut für Experimente, aber in Produktion kommen Probleme: Throttling bei Spitzenlast, schwankende Latenz, “noisy neighbour”-Effekte durch andere Tenants. PTU reservieren feste Verarbeitungs-Kapazität für deine Workload, das macht Latenz und Durchsatz planbar, was für Echtzeit-Anwendungen (Chatbots, Voice-Bots, Agenten) unverzichtbar ist. AWS Bedrock hat ein vergleichbares Modell (“Provisioned Throughput”), die OpenAI-API selbst bietet das in dieser Form nicht.

Tiefe Integration in den Azure-Stack. Microsoft Foundry (vormals Azure AI Foundry) als Entwickler-Oberfläche, Azure AI Search als Vector-Store für RAG, Azure Functions und Logic Apps für Orchestrierung, Power Platform für Citizen Developer. Wer im Microsoft-Universum arbeitet, baut KI-Anwendungen in Tagen statt Wochen, weil Identity, Networking, Logging und Deployment-Pipelines bereits stehen. Die gleichen Bausteine in einer Multi-Cloud-Welt zusammenzuziehen ist erheblich aufwändiger.

Compliance-Suite, die deutsche Auditoren kennen. BSI C5 (für KRITIS und öffentliche Verwaltung in Deutschland praktisch Pflicht), ISO 27001/27017/27018, SOC 1/2/3, EU-Cloud-Code-of-Conduct, HIPAA, PCI-DSS, FedRAMP. Microsoft veröffentlicht detaillierte Compliance-Dokumente und Pen-Test-Berichte über das Service Trust Portal. Für Compliance-Abteilungen, die mit Azure-Auditberichten bereits vertraut sind, ist Azure OpenAI ohne neue Bewertungs­zyklen einsetzbar.

Deutschsprachiger Enterprise-Support. Microsoft hat in Deutschland eine substanzielle lokale Präsenz mit deutschsprachigem Support, Account Managern und Beratungspartnern. Bei einem Incident landest du nicht in einer englischsprachigen Hotline mit US-Zeitzone, sondern in einem etablierten Support-Vertrag, ein praktischer Vorteil, den weder die OpenAI-API noch Anthropic in dieser Form bieten.

Schwächen ehrlich betrachtet

Modelle kommen verzögert. Wenn OpenAI ein neues Modell ankündigt, dauert es typischerweise Wochen bis Monate, bis es in Azure OpenAI verfügbar ist, und manchmal länger in den EU-Regionen als in den US-Regionen. Wer das Allerneueste am Tag-1 braucht (etwa für Forschung oder zur Demonstration), arbeitet besser direkt mit der OpenAI-API. Für Produktivbetrieb ist die Verzögerung meist akzeptabel, manchmal sogar erwünscht (mehr Praxiserfahrung mit dem Modell).

Modelle laufen schnell wieder aus. Die Kehrseite: Was einmal da ist, bleibt nicht lange. Laut Microsofts Lifecycle-Richtlinie bekommt ein Modell beim allgemeinen Start ein Abschaltdatum 18 Monate später, nach zwölf Monaten können Neukunden es in der Regel nicht mehr deployen. Ob du als Bestandskunde zählst, entscheidet die Azure-Subscription: Eine neue Subscription im selben Tenant erbt den Zugang nicht. Im Oktober 2026 betrifft das GPT-4o mini, GPT-4.1, ältere GPT-4o-Versionen und alle o-Reasoning-Modelle, o1, o3 und o4-mini werden am 19. November 2026 ganz abgeschaltet. Plane deshalb jede Anwendung so, dass ein Modellwechsel ein Konfigurationsschritt mit eigenem Testlauf ist und kein Umbau.

Quoten und regionale Verfügbarkeit sind eine Wissenschaft. Nicht jedes Modell ist in jeder Region in jeder Quote verfügbar. Frische Modelle starten oft nur in West US 2 oder East US 2; bis sie in Germany West Central landen, vergehen Monate. Default-Quoten sind oft niedrig (z. B. 10K Tokens pro Minute für GPT-4o) und müssen über Azure Support-Tickets erhöht werden, was einige Tage dauern kann. Das ist Planungsoverhead, den man kennen muss, bevor man Termine kommuniziert.

Pricing-Komplexität. Pay-per-token vs. PTU vs. regionale Aufschläge vs. Reservations vs. Cross-Region-Routing, wer die Rechnung am Monatsende verstehen will, braucht Azure Cost Management mit getaggten Resource Groups und idealerweise einen FinOps-Verantwortlichen. Die häufigste Fehleinschätzung: PTU werden gebucht, aber nicht ausgelastet. Die Kapazität ist dann reserviert (und teuer), auch wenn niemand sie nutzt.

Setup verlangt Azure-Erfahrung. Resource Group, Subscription, IAM-Rollen, Networking, Private Endpoints, Key Vault, Monitor, Diagnostic Settings, wer noch nie eine Azure-Ressource konfiguriert hat, ist schnell überfordert. Es gibt keinen “in 5 Minuten produktiv”-Pfad wie bei OpenAI direkt. Plane für die ersten Production-Endpoints einen erfahrenen Cloud-Engineer ein.

Antragsverfahren für sensitive Modelle. Frühere Versionen verlangten ein generelles Antragsformular für Azure OpenAI selbst; heute ist das für die meisten Konten entfallen, aber für einzelne Modelle (insbesondere bei Markteinführung oder bei besonders sensiblen Funktionen wie GPT-4o Realtime / Voice) bleibt ein Antragsprozess. Wer in einem regulierten Setup arbeitet, sollte das vor Projektstart prüfen.

Keine Consumer-UI inklusive. Azure OpenAI ist eine API, kein ChatGPT-im-Browser. Wer eine Chat-Oberfläche für Endnutzer will, baut sie selbst (z. B. mit dem Playground in Microsoft Foundry für interne Nutzer) oder kauft Microsoft 365 Copilot zusätzlich. Das ist eine bewusste Trennung, sollte aber bei der Bedarfsabschätzung mitgedacht werden.

Vendor-Lock-in zur Microsoft-Cloud. Sobald Azure AI Search als Vector-Store, Entra ID als Identity Provider und PTU-Reservations laufen, ist der Wechsel zu AWS Bedrock oder Vertex AI ein Re-Architecting-Projekt, nicht nur ein API-Swap. Wer Multi-Cloud-Optionalität bewahren will, sollte zumindest die Modell-Aufrufe hinter einer eigenen Abstraktionsschicht kapseln (LangChain, LiteLLM o. ä.).

Alternativen im Vergleich

Wenn du……nimm stattdessen
Direkt mit OpenAI arbeiten willst, ohne Azure-StackChatGPT (Enterprise-Plan)
Auf AWS aufsetzt und ML-Workloads in Frankfurt brauchstAWS SageMaker
Auf Google Cloud aufsetzt und Gemini bevorzugstVertex AI
Ein europäisches Foundation-Modell mit eigener API und EU-Hosting brauchstMistral
Eine fertige Microsoft-365-Integration ohne Eigenbau willstMicrosoft 365 Copilot

Erwähnenswert ohne eigene Tool-Seite: AWS Bedrock als direkter Konkurrent mit Foundation-Model-Auswahl (Anthropic Claude, Llama, Mistral) und EU-Region Frankfurt, Aleph Alpha (PhariaAI) für den Betrieb im eigenen Rechenzentrum, seit September 2026 in der Fusion mit dem kanadischen Anbieter Cohere, Databricks Mosaic für Lakehouse-zentrierte Setups, sowie der direkte OpenAI-API-Zugang über die Enterprise-Tier mit AVV (für Teams, die ohne Cloud-Provider-Bindung arbeiten wollen). Azure OpenAI bleibt für Microsoft-First-Häuser die natürliche Wahl, wer die Cloud noch nicht gewählt hat, sollte Azure OpenAI, Bedrock und Vertex AI in Parallel-PoCs gegeneinander testen, bevor er sich bindet.

So steigst du ein

Schritt 1: Azure-Subscription anlegen und Region wählen. Wenn noch keine Azure-Subscription existiert, lege sie über das Azure-Portal an, neue Konten bekommen aktuell 200 USD Startguthaben für 30 Tage. Wähle als primäre Region Germany West Central (Frankfurt) oder West Europe (Amsterdam), beides EU-Regionen mit voller Modellpalette. Erstelle eine eigene Resource Group für KI-Workloads, richte sofort Cost Management Budgets mit Alerts ein (z. B. bei 100 / 500 / 1.000 EUR), und vergib IAM-Rollen über Microsoft Entra ID, kein Owner-Sharing, klare Trennung zwischen Entwicklung und Produktion.

Schritt 2: Mit Microsoft Foundry prototypen. Öffne Microsoft Foundry (vormals Azure AI Foundry, davor Azure AI Studio). Hier kannst du GPT-5.6 Luna, Terra und Sol direkt im Browser gegeneinander testen, Prompts iterieren, Datei-Uploads für RAG-Tests verwenden und Embeddings generieren. Diese Phase ist no-code, gut für die Validierung mit Fachabteilungen. Erst wenn der Use Case sitzt, gehst du in die SDK-Integration (Python, .NET, JavaScript, Java) und deployst über Azure App Service, Container Apps oder Azure Functions.

Schritt 3: DSGVO- und Compliance-Konfiguration vor Go-Live. Aktiviere Private Endpoints, damit deine Endpoints nur aus dem eigenen VNET erreichbar sind. Schalte Customer-Managed Keys (CMEK) über Azure Key Vault ein, wenn dein Sicherheitskonzept das verlangt. Konfiguriere Diagnostic Settings, damit alle API-Aufrufe in Azure Monitor / Log Analytics landen, Audit-Pflicht für regulierte Branchen. Lass den Microsoft-AVV vom Datenschutzbeauftragten prüfen (er ist Standardbestandteil der Enterprise-Verträge, sollte aber dokumentiert werden) und beantrage bei Bedarf die Deaktivierung des Abuse Monitorings für besonders sensible Workloads.

Ein konkretes Beispiel

Eine deutsche Versicherung in Köln (1.200 Mitarbeitende, Schwerpunkt Sach- und Haftpflicht) nutzt Azure OpenAI für die automatisierte Erstprüfung von Schadenmeldungen. Der Workflow: Eingehende E-Mails und PDFs werden über Azure Logic Apps an einen Endpoint in Germany West Central geleitet. GPT-4o klassifiziert das Schadenereignis (Unwetter, Einbruch, Leitungswasser …), extrahiert Schadenhöhe, Vorgangsnummer und Kontaktdaten, und liefert eine strukturierte JSON-Antwort an das Bestandssystem. Bei unklaren Fällen wird automatisch an die Sachbearbeitung eskaliert. Die gesamte Verarbeitung läuft in der EU, Customer-Managed Keys verschlüsseln die Daten, Private Endpoints verhindern jeden Public-Internet-Zugriff. Ergebnis: Die Erstklassifikation eines Schadens dauert statt 12 Minuten manuell jetzt rund 90 Sekunden automatisiert; rund 70 % der Routinefälle werden ohne menschliches Eingreifen vorbereitet, der Rest geht angereichert an die Sachbearbeiterin. Monatliche Kosten Azure OpenAI: ca. 2.400 € bei rund 35.000 verarbeiteten Schadenmeldungen, getrieben überwiegend durch GPT-4o-Aufrufe und Embeddings für Ähnlichkeits-Suche zu historischen Fällen. Aufbau durch ein dreiköpfiges Team: rund acht Wochen bis zum Produktivstart inklusive Datenschutz-Folgenabschätzung. Wer so ein System heute neu aufsetzt, plant direkt mit der GPT-5-Generation: GPT-4o in der Version 2024-11-20 stuft Microsoft als Legacy ein, es wird am 14. April 2027 abgeschaltet, als Ersatz nennt Microsoft GPT-5.1.

Nicht sicher, ob Azure OpenAI Service zu euch passt?

Wir helfen bei der Tool-Auswahl und begleiten die Einführung in euren Arbeitsalltag, unverbindlich und kostenlos im Erstgespräch.

Erstgespräch anfragen

DSGVO & Datenschutz

  • Datenhosting: EU-Regionen verfügbar, West Europe (Amsterdam), Sweden Central (Stockholm), Germany West Central (Frankfurt-Region). Cross-Region-Inference ist standardmäßig aus; Daten verlassen die gewählte Region nur, wenn explizit aktiviert.
  • Datennutzung: Microsoft nutzt Eingaben aus Azure OpenAI Service vertraglich nicht für das Training von OpenAI-Modellen oder die Verbesserung von Microsoft-Produkten. Bestätigt im Microsoft Product Terms / Data Protection Addendum.
  • Abuse Monitoring: Standardmäßig aktiv. Auffällige Prompts und Completions können in einem logisch nach Kundenressource getrennten Datenspeicher abgelegt und durch autorisierte Microsoft-Reviewer geprüft werden; für Ressourcen im EWR sitzen diese Reviewer im EWR. Für besonders sensible Branchen lässt sich das Abuse Monitoring per Antrag (modifiziertes Abuse Monitoring) deaktivieren, dann entfällt Speicherung und menschliche Prüfung. Empfohlen für Anwälte, Ärzte, Beratungen mit Berufsgeheimnis.
  • AVV / DPA: Standardbestandteil des Microsoft-Enterprise-Agreements bzw. der Online Service Terms. Microsoft Deutschland tritt als Vertragspartner auf, deutsche Rechnung, deutsche Gerichtsstandvereinbarung möglich.
  • Verschlüsselung: Daten in Transit und at rest standardmäßig verschlüsselt. Customer-Managed Keys (CMEK) über Azure Key Vault optional aktivierbar.
  • Netzwerk-Isolation: Private Endpoints und VNET-Integration verfügbar, Endpoints können vollständig vom Public Internet abgeschottet werden.
  • Identity: Microsoft Entra ID (vormals Azure AD) für Authentifizierung, Conditional Access und MFA. SSO und SCIM-Provisioning Standard.
  • Zertifizierungen: BSI C5 (relevant für deutsche KRITIS und Behörden), ISO 27001/27017/27018, SOC 1/2/3, EU-Cloud-Code-of-Conduct, HIPAA, PCI-DSS, FedRAMP High.
  • Empfehlung für Unternehmen: Region Germany West Central oder Sweden Central wählen, Private Endpoints aktivieren, CMEK in Key Vault einrichten, Abuse Monitoring bei sensiblen Workloads per Antrag deaktivieren, Datenschutz-Folgenabschätzung dokumentieren. Damit ist Azure OpenAI auch für regulierte Branchen ein sauberer Pfad.

Gut kombiniert mit

  • Azure AI Search, der native Vector-Store von Azure für RAG-Anwendungen. Embeddings aus Azure OpenAI fließen direkt in den Index; Hybrid-Suche kombiniert Keyword- und semantische Suche. Praktisch der Standardweg für RAG im Microsoft-Stack.
  • Microsoft 365 Copilot, wenn neben dem API-basierten Eigenbau auch eine fertige Office-Integration für Endnutzer gebraucht wird. Beide Produkte nutzen die gleichen OpenAI-Modelle im Hintergrund, ergänzen sich aber funktional.
  • GitHub Copilot, für die Entwicklung der Anwendungen, die später Azure OpenAI aufrufen. Microsoft-Stack durchgängig, einheitliche Lizenzierung über Microsoft Enterprise Agreement.

Häufige Fragen zu Azure OpenAI

Was kostet Azure OpenAI?

Abgerechnet wird nach Verbrauch pro Million Token, das Azure-Abonnement selbst hat keinen Mindestumsatz. Im Global-Standard-Tarif kostet GPT-5.6 Luna 0,20 USD Input und 1,20 USD Output, GPT-5.6 Terra 2 / 12 USD und GPT-5.6 Sol 4 / 20 USD (Stand 3. Oktober 2026). Für garantierte Kapazität gibt es Provisioned Throughput Units ab ca. 2 USD je PTU und Stunde, mit Reservierung günstiger. In EU-Regionen wie Germany West Central können je nach Modell regionale Aufschläge dazukommen.

Ist Azure OpenAI DSGVO-konform nutzbar?

Für deutsche Unternehmen ist es in den meisten Fällen der saubere Weg zu OpenAI-Modellen. Du wählst eine EU-Region (West Europe, Sweden Central oder Germany West Central), Eingaben verlassen sie nicht, solange du Cross-Region-Inference nicht einschaltest, und Microsoft schließt die Trainingsnutzung vertraglich aus. Der AVV ist Standardbestandteil des Enterprise Agreements beziehungsweise der Online Service Terms. Bei Berufsgeheimnis solltest du zusätzlich das Abuse Monitoring per Antrag deaktivieren lassen.

Was ist der Unterschied zur direkten OpenAI-API?

Auf Tokenebene liegen die Preise sehr nah an OpenAIs Listenpreisen. Bei Azure ist aber Microsoft dein Vertragspartner, mit EU-Datenresidenz, AVV nach Microsoft Product Terms, Private Endpoints und Entra-ID-Anbindung. Der Preis dafür: Neue Modelle kommen typischerweise Wochen bis Monate später als bei OpenAI selbst.

Kann ich Azure OpenAI ohne Azure-Kenntnisse nutzen?

Nur zum Ausprobieren. Im Playground von Microsoft Foundry testest du die Modelle ohne Code, neue Azure-Konten bekommen aktuell 200 USD Startguthaben für 30 Tage. Für den Produktivbetrieb brauchst du Resource Groups, IAM, Networking und Private Endpoints, plane für die ersten Endpoints einen erfahrenen Cloud-Engineer ein.

Welche Modelle werden bei Azure OpenAI abgeschaltet?

o1, o3 und o4-mini werden am 19. November 2026 abgeschaltet, als Ersatz nennt Microsoft GPT-5.6 Sol beziehungsweise Terra. GPT-4o mini und GPT-4.1 sind für Neukunden bereits gesperrt und laufen am 14. April 2027 aus, ebenso GPT-4o in der Version 2024-11-20. Neue Anwendungen planst du deshalb direkt mit der GPT-5.6-Reihe.

Unser Fazit

Azure OpenAI Service verdient 5 von 5 Sternen. Es ist die strategisch wichtigste Cloud-KI-Plattform für deutsche und europäische Unternehmen mit Microsoft-Stack: OpenAI-Modelle in vollem Umfang, EU-Datenresidenz mit echter Garantie, vertraglich ausgeschlossene Trainingsnutzung, BSI-C5-Testat, deutschsprachiger Enterprise-Support, native Integration in Microsoft Foundry und Azure AI Search. Für Microsoft-Häuser gibt es praktisch keine bessere Wahl, und für regulierte Branchen, die OpenAI-Modelle DSGVO-konform produktiv einsetzen wollen, ist Azure OpenAI in den meisten Fällen sogar die einzige saubere Option. Die volle Sternezahl verdient es, weil die Schwächen (verzögerte Modell-Verfügbarkeit, kurze Modell-Lebenszyklen, komplexes Pricing, Setup-Aufwand) realistische Trade-offs für eine Enterprise-Plattform sind, keine echten Mängel. Die kurzen Lebenszyklen haben wir im Oktober 2026 genau gewogen: Sie kosten Pflegeaufwand, treffen aber jeden großen Modellanbieter, und Microsoft legt Abschaltdaten und Ersatzmodelle in einem öffentlichen Zeitplan offen, sodass du Migrationen planen kannst. Wer die Komplexität bewusst akzeptiert, bekommt eine Plattform mit echtem Spitzen-Niveau und einer Compliance-Story, die im Markt ihresgleichen sucht.

Was wir bemerkt haben

  • Oktober 2026 (Faktencheck), Microsofts Abschaltplan räumt die alte Modellgeneration ab: GPT-4o mini, GPT-4.1, GPT-4.1 mini und die GPT-4o-Versionen 2024-05-13 und 2024-08-06 stehen auf „Deprecated”, sind für Neukunden also gesperrt. o1, o1-pro, o3, o3-pro, o3-mini, o3-deep-research und o4-mini werden am 19. November 2026 abgeschaltet, Ersatz ist GPT-5.6 Sol beziehungsweise Terra. Wir haben die Kostenempfehlung in der Einordnung entsprechend umgestellt. Die Zeile „GPT-5.5 Pro” haben wir gestrichen, Azure führt dieses Modell weder im Zeitplan noch in der Preisliste.
  • Oktober 2026, Bei der Transkription laufen die Fristen ebenfalls: gpt-4o-transcribe in der Version 2025-03-20 wird am 15. Oktober 2026 abgeschaltet, whisper 001 am 15. Dezember 2026. Nachfolger ist gpt-transcribe für 0,27 USD pro Stunde (Global Standard).
  • September 2026, Die Azure-Preisliste nennt ab dem 1. September 2026 GPT-6 Astra, GPT-6 Sol und GPT-6 Luna. Im Lebenszyklus-Zeitplan der Modelle fehlen sie am 3. Oktober 2026 noch, wir führen sie deshalb nicht als allgemein verfügbar.
  • Juli 2026, Mit der Modellversion vom 9. Juli 2026 kommt die GPT-5.6-Reihe nach Azure, Luna, Terra und Sol sind inzwischen allgemein verfügbar (GA) und laut Zeitplan bis Januar 2028 nutzbar.
  • Juni 2026, Das Modellportfolio ist inzwischen auf die GPT-5-Generation umgestellt: GPT-5, GPT-5.1, GPT-5.2, GPT-5.3, GPT-5.4 und GPT-5.5 sind in Microsoft Foundry verfügbar, viele mit Reasoning, langem Kontext (bis ca. 400K Token) und Codex-Varianten. GPT-4o und GPT-4.1 bleiben verfügbar, sind aber nicht mehr die Spitzenmodelle. Der Dienst läuft jetzt unter dem Dach Azure OpenAI in Microsoft Foundry (vormals Azure AI Studio / Azure AI Foundry). Die Preistabelle oben listet die GPT-5-Klasse separat aus, GPT-4o und GPT-4.1 stehen dort weiterhin zum Vergleich.
  • Mai 2026, Germany West Central (Frankfurt) bietet inzwischen den Großteil der relevanten OpenAI-Modelle inklusive GPT-4o, GPT-4o mini und Embeddings. Die früher häufige Ausweich-Empfehlung auf Sweden Central oder West Europe ist für viele Workloads nicht mehr nötig, ein klarer Fortschritt für deutsche Compliance-Setups.
  • 2025, Microsoft hat das ursprüngliche Antragsformular für den allgemeinen Zugang zu Azure OpenAI für die meisten Unternehmenskonten abgeschafft. Für einzelne sensible Funktionen (Voice, Realtime, Vision in einigen Regionen) bleibt aber ein Antragsverfahren bestehen.
  • 2024, Azure AI Studio wurde in Azure AI Foundry umbenannt und um Agent- und Multi-Modell-Funktionen erweitert. Die alten Studio-URLs leiten weiter, aber Tutorials sind teilweise inkonsistent, wer eine Anleitung von 2023/2024 nutzt, sollte auf die neue Foundry-UI achten.
  • 2024, Microsoft hat Provisioned Throughput Units (PTU) als zweites Pricing-Modell etabliert. Für stabile Produktivlasten ein echter Hebel, Latenz und Verfügbarkeit werden planbar. Reservations (1 Monat / 1 Jahr) senken den PTU-Preis nochmals deutlich.
  • Laufend, Modelle erscheinen mit Verzögerung gegenüber OpenAI selbst. Wer das Allerneueste am Tag-1 braucht, ist mit der direkten OpenAI-API besser bedient; wer Stabilität und Compliance höher gewichtet, wartet die Azure-Verfügbarkeit ab.
  • Laufend, Das Abuse Monitoring lässt sich per Antrag (modifiziertes Abuse Monitoring) deaktivieren, dann entfallen Speicherung und menschliche Prüfung. Für Anwälte, Ärzte, Beratungen mit Berufsgeheimnis ist das ein wichtiger, aber häufig übersehener Hebel.

Quellen

  1. Microsoft Foundry: Model retirement schedule. https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/model-retirement-schedule (abgerufen am 2026-10-03). Azure OpenAI: gpt-5.6-luna, gpt-5.6-sol und gpt-5.6-terra (Version 2026-07-09) GA, Abschaltung 2028-01-11; gpt-5.5 (2026-04-24) GA bis 2027-10-26; gpt-5, gpt-5-mini, gpt-5-nano GA bis 2027-02-09; neueste Pro-Varianten gpt-5.4-pro und gpt-5-pro, kein gpt-5.5-pro; gpt-4o 2024-11-20 Legacy, 2024-05-13 und 2024-08-06 Deprecated; gpt-4o-mini 2024-07-18, gpt-4.1 und gpt-4.1-mini Deprecated mit Abschaltung 2027-04-14, gpt-4.1-nano 2026-10-14; o1, o1-pro, o3, o3-deep-research, o3-pro Deprecated mit Abschaltung 2026-11-19 und Ersatz gpt-5.6-sol, o3-mini und o4-mini mit Ersatz gpt-5.6-terra; whisper 001 Abschaltung 2026-12-15; gpt-4o-transcribe 2025-03-20 Abschaltung 2026-10-15.
  2. Microsoft Foundry: Models lifecycle and support policy. https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/model-retirements (abgerufen am 2026-10-03). Plattformname Microsoft Foundry; Stufe „Deprecated“: Bestandskunden können weiter Deployments anlegen, Neukunden nicht, Bestandskunde wird je Azure-Subscription bestimmt, eine neue Subscription im selben Tenant erbt den Zugang nicht; „Legacy“: neuere Modelle verfügbar, Migration planen; Abschaltdatum bei GA-Start auf 18 Monate gesetzt, nach 12 Monaten nur noch Bestandskunden.
  3. Azure Retail Prices API: Foundry Models, East US 2. https://prices.azure.com/api/retail/prices?$filter=serviceName%20eq%20%27Foundry%20Models%27%20and%20armRegionName%20eq%20%27eastus2%27 (abgerufen am 2026-10-03). Global Standard, kurzer Kontext, USD je 1M Token Input/Output: GPT-5.6 Sol 4/20 (Cache 0,40), GPT-5.6 Terra 2/12, GPT-5.6 Luna 0,20/1,20; GPT-6 Astra 10/50, GPT-6 Sol 2/10, GPT-6 Luna 0,10/0,50 (gültig ab 1. September 2026); GPT-5.5 5/30 (Cache 0,50); GPT-5 1,25/10; GPT-5 mini 0,25/2; GPT-5 nano 0,05/0,40; GPT-4o 1120 2,50/10; GPT-4o mini 0718 0,15/0,60; GPT-4.1 2/8; text-embedding-3-large 0,13; DALL-E 3 Standard regional 4,40 USD je 100 Bilder; Whisper Batch global 0,36 USD/Stunde; gpt-transcribe global 0,27 USD/Stunde; PTU regional 2 USD/Stunde.
  4. Microsoft Foundry: Data, privacy, and security (Models sold by Azure). https://learn.microsoft.com/en-us/azure/ai-foundry/responsible-ai/openai/data-privacy (abgerufen am 2026-06-13). Eingaben, Ausgaben und Trainingsdaten werden nicht für das Training von OpenAI- oder Microsoft-Modellen genutzt; Verarbeitung in der vom Kunden gewählten Geografie; bei DataZone-Deployment innerhalb der EU; Verschlüsselung at rest mit Option auf Customer-Managed Keys; modifiziertes Abuse Monitoring per Antrag deaktivierbar; menschliche Reviewer im EWR befinden sich im EWR.
  5. Microsoft Foundry: Models sold by Azure (Modellübersicht). https://learn.microsoft.com/en-us/azure/ai-foundry/openai/concepts/models (abgerufen am 2026-06-13). Modellportfolio GPT-5, GPT-5.1, GPT-5.2, GPT-5.3, GPT-5.4 und GPT-5.5 (Release gpt-5.5 am 2026-04-24) sowie GPT-4o und GPT-4.1 verfügbar; Kontextfenster bis ca. 400K Token; Quota-Antrag für GPT-5.5 in bestimmten Tiers nötig.
  6. Azure OpenAI Service: Preisübersicht. https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service/ (abgerufen am 2026-06-13). Pay-as-you-go nach Token sowie Provisioned Throughput Units (PTU) mit Reservation-Optionen; Token-Preise nahe den OpenAI-Listenpreisen.

Diesen Inhalt teilen:

Empfohlen in 38 Use Cases

+ 16 weitere Use Cases in 15 Branchen anzeigen

Empfohlen für diese Branchen

KI-Tools und Trends

KI-Wochenbriefing: jeden Freitag KI-News, Praxistipps und Tools

Kostenlos abonnieren, jederzeit abmeldbar, kein Spam.

Kostenloser Newsletter

Bleib auf dem neuesten
Stand der KI

Wähle deine Themen und erhalte relevante KI-News, Praxistipps und exklusive Inhalte direkt in dein Postfach – kein Spam, jederzeit abmeldbar.

Was interessiert dich? Wähle 1 bis 4 Themen, du bekommst nur Inhalte dazu.

Mit der Anmeldung stimmst du unserer Datenschutzerklärung zu. Jederzeit abmeldbar.

Kostenlos
Kein Spam
Jederzeit abmeldbar