Azure Machine Learning

Kurzfazit

Azure Machine Learning ist die naheliegende ML-Plattform für Unternehmen, die schon auf Azure laufen. Der Dienst selbst kostet nichts, bezahlt wird Rechenzeit, etwa 0,266 USD je Stunde für eine Linux-VM vom Typ DS3 v2 in Frankfurt. Stark sind MLOps, Responsible-AI-Werkzeuge und die Nähe zu Microsoft Foundry mit über 10.000 Modellen. Schwach sind schwer planbare Kosten und ständige Plattform-Umbauten. Wer auf AWS arbeitet, bleibt besser bei SageMaker.

Für wen ist Azure Machine Learning?

Data Scientists und ML-Engineers: Das Herzstück der Plattform. Jupyter Notebooks, Python SDK v2, Azure CLI, MLflow-Integration, alle gängigen Workflows sind nativ unterstützt. Teams, die PyTorch, TensorFlow oder scikit-learn einsetzen, können ihre Modelle direkt in Azure-Rechenzentren trainieren und deployen, ohne eigene Hardware zu verwalten.

Nicht-technische Analysten und Business-Anwender: Über AutoML und den visuellen Designer lassen sich einfache Modelle ohne eine Zeile Code erstellen. AutoML probiert automatisch verschiedene Algorithmen durch und wählt das beste Modell, praktisch für erste Forecasting- oder Klassifikations-Aufgaben.

Enterprise-IT-Teams in Microsoft-Umgebungen: Wer Azure Active Directory, Azure Key Vault und Azure Virtual Networks bereits betreibt, kann AzureML nahtlos in bestehende Sicherheits- und Governance-Strukturen einbetten. Role-based Access Control (RBAC) funktioniert wie im Rest von Azure.

Compliance-kritische Branchen: Banken, Versicherungen, Krankenhäuser und Kanzleien profitieren von den Responsible-AI-Tools (Fairness, Explainability, Differential Privacy) und der Möglichkeit, alle Daten ausschließlich in der EU-Region zu halten.

Weniger geeignet für: Startups oder KMU ohne Azure-Infrastruktur, die schnell und günstig erste ML-Experimente starten wollen, hier ist Google Colab oder Hugging Face Spaces einfacher. Auch AWS-native Teams sollten bei SageMaker bleiben; der Wechsel zu Azure ML bringt mehr Reibung als Mehrwert. Und wer nur Sprachmodelle in eine Anwendung einbauen will, ohne eigene Modelle zu trainieren, ist direkt in Microsoft Foundry besser aufgehoben.

Preise im Detail

Komponente	Kosten	Details
Azure ML Workspace	Kostenlos	Laut Microsoft keine zusätzliche Gebühr für Azure Machine Learning selbst
CPU-Compute (Standard_DS3_v2)	ca. 0,27 USD/Std. (0,266 USD unter Linux in Germany West Central, 0,293 USD in East US)	4 vCPUs, 14 GB RAM, typisch für Training
GPU-Compute (Nachfolger der NCv3-Serie)	je nach Größe laut Azure-VM-Preisliste	NCasT4_v3 (NVIDIA T4) für günstiges Inferencing, NCadsH100_v5 (NVIDIA H100 NVL) für Training. Die V100-Serie NCv3 ist seit 30. September 2025 abgeschaltet
GPU-Cluster (A100, 8x)	ab ca. 25 USD/Std.	Großes Training, LLM Fine-tuning
Serverless Compute	Pay-per-use	Keine Cluster-Verwaltung, höherer Preis/Std.
Storage (Blob)	ca. 0,018 USD/GB/Monat	Für Datasets, Modelle, Logs
Managed Endpoints	ca. 0,12 USD/Std.	Für produktive Modell-APIs
Savings Plan	10 bis 20% Rabatt	Commitment auf 1 oder 3 Jahre

Neben Compute fallen laut Microsoft Kosten für Blob Storage, Key Vault, Container Registry und Application Insights an. VM-Preise aus der Azure-Preisliste, Stand 3. Oktober 2026, ohne Rabatte.

Einordnung: Die Kostenstruktur ist einer der größten Kritikpunkte. Anders als SaaS-Tools mit klaren Monatspauschalen entstehen bei Azure ML Kosten durch jede genutzte Ressource. Ein Team, das 8 Stunden täglich GPU-Cluster nutzt, zahlt schnell 2.000 bis 5.000 USD pro Monat. Der Einstieg mit dem Azure-Konto (200 USD Guthaben für 30 Tage) ist gratis, aber für produktive Workloads braucht man ein durchdachtes Cost-Management. Ältere Anleitungen rechnen oft noch mit der V100-Maschine Standard_NC6s_v3, die es seit Herbst 2025 nicht mehr gibt, deren Preise taugen nicht mehr als Kalkulationsgrundlage. Microsoft bietet Savings Plans für vorhersehbare Workloads an.

Stärken im Detail

Nähe zu Microsoft Foundry und Azure OpenAI. Wer Sprachmodelle mit eigenen Daten verbinden will, findet im Azure-Ökosystem Microsoft Foundry (vormals Azure AI Studio und Azure AI Foundry) mit mehr als 10.000 Modellen von Microsoft, OpenAI, Anthropic, Meta und anderen. Azure ML bleibt die Werkbank für klassisches Training und MLOps, die Modelle für Generative KI kommen aus Foundry, beides in derselben Azure-Umgebung und auf Wunsch in EU-Regionen. Das ist für Unternehmen, die interne Dokumente per KI auswertbar machen und zugleich eigene Vorhersagemodelle betreiben wollen, ein starkes Argument.

AutoML und Designer für No-Code-Einstiege. Wer kein Data Scientist ist, kann mit AutoML Klassifikations-, Regression- und Zeitreihenmodelle trainieren, ohne Algorithmen zu kennen. Der visuelle Designer erlaubt es, ML-Pipelines per Drag-and-drop zu bauen. Das senkt die Einstiegshürde und erlaubt gemischten Teams, eigenständig erste Modelle zu bauen.

MLOps-Features für produktiven Einsatz. AzureML ist keine Experimentierplattform, sondern eine Produktionsplattform. Modell-Versionierung, Lineage-Tracking, automatische Retraining-Pipelines, GitHub Actions Integration und Event Grid Trigger gehören zum Standard. Für Teams, die Modelle regelmäßig aktualisieren müssen, ist das ein erheblicher Vorteil gegenüber manuellen Setups.

Responsible AI Toolkit. Microsoft hat das bisher umfangreichste Toolkit für verantwortungsvolle KI: Fairlearn für Bias-Analyse, InterpretML für Modell-Erklärbarkeit, Differential Privacy für Datenschutz beim Training. Für regulierte Branchen, die Compliance-Nachweise brauchen, ist das ein Alleinstellungsmerkmal unter den großen ML-Plattformen.

EU-Datenhaltung ohne Kompromisse. Azure betreibt in Europa unter anderem die Regionen Germany West Central (Frankfurt), West Europe (Niederlande) und North Europe (Irland). AzureML verarbeitet und speichert Daten ausschließlich in der gewählten Region, laut Microsoft werden keine Daten ohne explizite Zustimmung über Regionsgrenzen bewegt.

Schwächen ehrlich betrachtet

Kostenstruktur ist eine Blackbox. Der größte praktische Schmerz: Man weiß nicht, was man ausgeben wird, bevor man anfängt. Compute-Cluster, die vergessen werden abzuschalten, treiben Kosten in die Höhe. Storage akkumuliert sich durch Logs und Modell-Artefakte. Ohne aktives Cost Management und Budget-Alerts ist Azure ML eines der teuersten ML-Tools auf dem Markt. Workaround: Azure Cost Management Budgets mit Alert-Schwellwerten setzen und Compute-Cluster mit Auto-Shutdown konfigurieren.

Die Plattform wird laufend umgebaut. Microsoft hat die V100-Serie NCv3 am 30. September 2025 abgeschaltet, verbliebene Maschinen wurden deallokiert. Prompt flow, das Werkzeug für LLM- und RAG-Pipelines in Azure ML und Foundry, wird für neue Projekte nicht mehr empfohlen und endet am 20. April 2027, Microsoft verweist auf das Microsoft Agent Framework. Und Azure OpenAI stellt ältere Modellversionen planmäßig ab, gpt-4o in der Version 2024-05-13 etwa am 9. Dezember 2026 mit automatischem Wechsel auf gpt-5.6-sol. Jede dieser Änderungen ist begründbar, zusammen bedeuten sie aber regelmäßige Migrationsarbeit, die im Budget stehen muss.

Vendor-Lock-in ist real. Wer Modelle in Azure ML Pipelines, Managed Endpoints und Prompt flow aufgebaut hat, hat einen erheblichen Umbauaufwand, wenn er zu AWS oder GCP wechseln möchte, und muss die Prompt-flow-Teile ohnehin bis April 2027 ersetzen. MLflow mildert das teilweise (MLflow-Experimente sind portierbar), aber die Infrastruktur-Abhängigkeiten bleiben. Das sollte vor dem Einsatz bewusst entschieden werden.

Deutsch nur zum Teil. Das Azure Portal lässt sich unter Einstellungen auf Deutsch umstellen, Microsoft unterstützt dort 18 Sprachen neben Englisch. Für ML Studio (ml.azure.com), die eigentliche Arbeitsoberfläche, haben wir keine deutsche Oberfläche belegen können, und Fachbegriffe, Fehlermeldungen und viele Beispiele bleiben in der Praxis englisch. Für deutschsprachige Teams ohne Englischkenntnisse bleibt das eine Hürde.

Lernkurve ist steil. Azure ML ist eine vollständige MLOps-Plattform, das bedeutet viele Konzepte (Workspaces, Compute Clusters, Environments, Datastores, Endpoints), die zunächst verstanden werden müssen. Teams ohne Cloud-ML-Erfahrung brauchen typischerweise 2 bis 4 Wochen Einarbeitungszeit, bevor sie produktiv sind.

Berechtigungsmodell ist komplex. Azure RBAC, Workspace-Rollen und Netzwerk-Policies überlagern sich. In größeren Organisationen entstehen regelmäßig Access-Denied-Fehler durch fehlkonfigurierte Berechtigungen, ein häufiger Frustrationspunkt in Foren.

Alternativen im Vergleich

Wenn du…	…nimm stattdessen
Bereits in AWS arbeitest und ML einführen willst	AWS SageMaker
Schnell und einfach starten willst ohne Infrastruktur-Aufwand	Hugging Face
LLM-Anwendungen ohne eigenes ML-Training bauen willst	Azure OpenAI Service (heute Teil von Microsoft Foundry)
Kostenlose oder Open-Source-Alternative suchst	MLflow auf eigener Infrastruktur (ohne eigene Toolseite)

Azure ML ist unter den großen Cloud-ML-Plattformen die beste Wahl für Microsoft-lastige Unternehmen. AWS SageMaker und Google Vertex AI sind funktional gleichwertig, aber in ihren jeweiligen Ökosystemen heimischer.

So steigst du ein

Schritt 1: Erstelle ein Azure-Konto (200 USD Guthaben für 30 Tage) und leg im Azure Portal einen ML Workspace in der Region “Germany West Central” (Frankfurt) an. Starte mit AutoML: Lade einen tabellarischen Datensatz hoch, wähle die Zielvariable und lass AutoML automatisch verschiedene Algorithmen vergleichen. Das liefert in wenigen Stunden ein Baseline-Modell, ohne eine Zeile Code zu schreiben.

Schritt 2: Wechsle für eigene Code-Workflows zum Python SDK v2. Installiere azure-ai-ml via pip, verbinde dich mit deinem Workspace und schreibe dein erstes Training-Script. Konfiguriere Auto-Shutdown für alle Compute-Cluster (max. 30 bis 60 Minuten Leerlauf) und stelle Budget-Alerts im Azure Cost Management ein, das verhindert unerwartete Kosten. Prüfe vor dem ersten GPU-Job, ob Anleitungen noch NCv3-Maschinen verlangen, und nimm stattdessen eine aktuelle Serie wie NCasT4_v3.

Schritt 3: Baue LLM-Anwendungen mit eigenen Daten nicht mehr mit Prompt flow, das Microsoft für neue Projekte nicht mehr empfiehlt und am 20. April 2027 abschaltet. Verbinde stattdessen deinen Azure Blob Storage als Datenquelle, konfiguriere eine Vector-Search-Instanz (Azure AI Search) und baue den RAG-Ablauf in Microsoft Foundry, im Code mit dem Microsoft Agent Framework. Azure ML bleibt dabei die Stelle für eigene Vorhersagemodelle, die du später als Werkzeug anbindest.

Ein konkretes Beispiel

Eine Berliner Rechtsanwaltskanzlei mit 200 Mitarbeitern baut ein internes Dokumentenanalyse-Tool mit Azure ML und Azure OpenAI. Vertragsdokumente werden per Batch-Pipeline durch ein Sprachmodell aus Azure OpenAI verarbeitet, das Klauseln klassifiziert und Risiken markiert, ein eigenes in Azure ML trainiertes Modell priorisiert anschließend die Fälle für die Anwälte. Workspace und Modellbereitstellung laufen in EU-Regionen, für das Sprachmodell wählt die Kanzlei eine Bereitstellung vom Typ Data Zone, bei der die Verarbeitung innerhalb einer definierten geografischen Grenze bleibt. Das Projektteam, zwei Entwickler und ein Data Scientist, braucht drei Monate für Aufbau und Rollout. Die Compute-Kosten für das laufende System: ca. 800 EUR pro Monat für Batch-Verarbeitung und Managed Endpoint. Das Tool reduziert die Erstdurchsicht von 200-seitigen Verträgen von 3 Stunden auf 20 Minuten. Im Herbst 2026 steht die erste Pflichtwartung an: Die anfangs genutzte gpt-4o-Version läuft im Dezember 2026 aus, das Team testet den Nachfolger vorher gegen die eigenen Prüfdokumente.

DSGVO & Datenschutz

• Datenhosting: EU-Rechenzentren verfügbar, unter anderem Germany West Central (Frankfurt), West Europe (Niederlande) und North Europe (Irland). Laut Microsoft werden Daten nicht ohne explizite Zustimmung aus der gewählten Region bewegt.
• Auftragsverarbeitung: Microsoft bietet Data Processing Agreements (DPA) und EU Model Clauses für Enterprise-Kunden. AVV ist standardmäßig Teil der Microsoft Online Services Terms.
• Verantwortlichkeit: Microsoft ist Auftragsverarbeiter; der Kunde bleibt Verantwortlicher für die verarbeiteten Daten.
• Datennutzung: Microsoft nutzt keine Kundendaten für das Training eigener Modelle (laut Online Services Terms).
• Sprachmodelle: Wer Modelle über Microsoft Foundry bereitstellt, sollte den Bereitstellungstyp bewusst wählen. Bei Data-Zone-Bereitstellungen bleibt die Verarbeitung laut Microsoft in einer definierten geografischen Zone, globale Bereitstellungen arbeiten dagegen mit globalem Routing.
• Zertifizierungen: ISO 27001, ISO 27018, SOC 2 Type II, BSI C5 (relevant für deutsche Behörden und regulierte Branchen).
• Empfehlung für Unternehmen: EU-Region bei Workspace-Erstellung explizit wählen. Für hochsensible Branchen (Medizin, Recht) zusätzlich Private Link und VNet-Integration aktivieren, um öffentliche Endpunkte zu vermeiden.

Gut kombiniert mit

• Power BI, ML-Modellergebnisse direkt in Power BI einbinden über die native Azure ML-Integration für Business-Intelligence-Dashboards ohne Entwickleraufwand
• AWS SageMaker, direkter Vergleich; Azure ML gewinnt bei Microsoft-Unternehmen und Azure-OpenAI-Bedarf, SageMaker bei AWS-nativen Teams, für Multi-Cloud-Strategien lohnt sich der strukturelle Vergleich
• Datadog, Azure-ML-Endpoints und Modell-Performance mit Datadog überwachen für produktive KI-Systeme mit SLAs und Alerting

Häufige Fragen zu Azure Machine Learning

Was kostet Azure Machine Learning?

Für Azure Machine Learning selbst verlangt Microsoft keine Gebühr. Bezahlt werden die genutzten Rechenressourcen nach Azure-Preisliste, etwa 0,266 USD je Stunde für eine Linux-VM vom Typ DS3 v2 in Germany West Central, dazu Blob Storage, Key Vault, Container Registry und Application Insights. Ein neues Azure-Konto bringt 200 USD Guthaben für 30 Tage mit.

Was wird aus Prompt flow in Azure Machine Learning?

Microsoft schaltet Prompt flow in Azure Machine Learning und Microsoft Foundry am 20. April 2027 ab und empfiehlt es schon jetzt nicht mehr für neue Projekte. Bestehende Abläufe sollen auf das Microsoft Agent Framework umziehen.

Gibt es Azure Machine Learning auf Deutsch?

Teilweise. Das Azure Portal lässt sich auf Deutsch umstellen, Microsoft unterstützt dort 18 Sprachen neben Englisch. Für die Arbeitsoberfläche ML Studio haben wir keine deutsche Oberfläche belegen können.

Unser Fazit

Azure Machine Learning verdient 4 von 5 Sternen. Die Plattform ist funktional ausgereift, sicher und durch die Nähe zu Microsoft Foundry und Azure OpenAI gut positioniert, wenn klassisches ML und Sprachmodelle zusammenkommen sollen. Den fünften Stern verhindern die schwer planbare Kostenstruktur, der erhebliche Vendor-Lock-in und das Tempo, mit dem Microsoft Bausteine umbaut oder abschaltet: NCv3-Maschinen, Prompt flow und ältere Modellversionen verlangen Migrationsarbeit, die niemand bestellt hat. Für Microsoft-zentrierte Unternehmen, die ML ernsthaft in Produktion bringen wollen, gibt es aktuell keine bessere Option in der EU.

Was wir bemerkt haben

• Oktober 2026, Microsoft hat die Marken weiter umgebaut: Aus Azure AI Studio wurde Azure AI Foundry und daraus Microsoft Foundry, die früheren Azure AI Services heißen jetzt Foundry Tools. Azure Machine Learning bleibt als eigener Dienst bestehen. Für LLM-Anwendungen und Agenten ist Foundry der strategisch bevorzugte Weg, für klassisches Tabular-ML, Regression und Klassifikation weiterhin Azure ML.
• Oktober 2026, Prompt flow endet: Microsoft schaltet das visuelle Werkzeug für LLM- und RAG-Pipelines in Azure ML und Foundry am 20. April 2027 ab, empfiehlt es nicht mehr für neue Projekte und verweist auf das Microsoft Agent Framework. Frühere Fassungen dieser Seite empfahlen Prompt flow noch als Einstiegsweg.
• Oktober 2026, Korrektur in eigener Sache: Unsere Preistabelle nannte bis heute die GPU-Maschine Standard_NC6s_v3 (NVIDIA V100) mit rund 3,06 USD je Stunde. Microsoft hat die NCv3-Serie am 30. September 2025 abgeschaltet, verbliebene Maschinen wurden deallokiert. Empfohlene Nachfolger sind NCadsH100_v5, NCasT4_v3 und NVadsA10_v5.
• Oktober 2026, Korrektur in eigener Sache: Frühere Fassungen nannten einen Aufschlag von rund 25 % auf die Azure-VM-Preise. Microsofts Preisseite sagt das Gegenteil: Für Azure Machine Learning selbst fällt keine zusätzliche Gebühr an. Außerdem stand hier, Azure Portal und ML Studio gebe es nur auf Englisch, das Portal unterstützt aber 18 weitere Sprachen, Deutsch eingeschlossen. Und die Region North Europe liegt in Irland, nicht in Amsterdam, wie eine frühere Fassung schrieb.
• Oktober 2026, Modellwechsel mit Ansage: gpt-4o in der Version 2024-05-13 wird am 9. Dezember 2026 abgeschaltet, Standard-Bereitstellungen wechseln automatisch auf gpt-5.6-sol. Wer Ergebnisse validiert hat, etwa in regulierten Prozessen, sollte den Nachfolger vorher testen.
• Laufend, Microsoft verstärkt die Integration von GitHub Copilot und Microsoft Foundry. Für reine Predictive-ML-Workloads ist Azure ML weiterhin die richtige Wahl.