Google Vertex AI

Kurzfazit

Google Vertex AI ist die strategische KI-Plattform der Google Cloud, und für jedes Team, das bereits in der Google-Welt arbeitet, der natürliche Ort, um Gemini, Anthropic Claude und Open-Weight-Modelle wie Llama produktiv einzusetzen. Im Model Garden liegt eine breite Auswahl an Foundation Models bereit, der Agent Builder macht Multi-Agent-Workflows zugänglich, und mit Vertex AI Studio lassen sich Prompts und Modelle ohne Code vergleichen. Die Schwächen liegen weniger im Produkt als in seiner Komplexität: Pricing, Service-Vielfalt und Google-Cloud-Konzepte verlangen erhebliches Vorwissen. Wer auf AWS oder Azure festgelegt ist, sollte bei den jeweiligen nativen Plattformen bleiben, Vertex AI lohnt sich für GCP-First-Teams.

Für wen ist Google Vertex AI?

Google-Cloud-Teams mit produktivem Setup: Wer BigQuery für Analytics, Cloud Run für Deployments und GKE für Container nutzt, bekommt mit Vertex AI die fehlende KI-Komponente nahtlos integriert. Daten aus BigQuery können direkt in Modelltraining oder RAG-Pipelines fließen, ohne Datenextraktion, ohne externe Pipelines, mit den gleichen IAM-Berechtigungen wie der Rest des Stacks.

Data-Science- und ML-Engineering-Teams: Vertex AI bietet den vollständigen ML-Lifecycle in einer Plattform: Vertex AI Workbench (Jupyter mit GPU), Custom Training auf TPUs/GPUs, Vertex AI Pipelines für reproduzierbare Workflows, Model Registry und Model Monitoring für Drift-Erkennung. Für Teams, die ML in Produktion bringen müssen, nicht nur experimentieren, ist das ein durchgängiges Werkzeug.

Entwickler von KI-Agenten und RAG-Systemen: Der Agent Builder kombiniert Foundation-Model-Zugriff, Vector Search, Tool-Calling und Orchestrierung. In Verbindung mit Vertex AI Search lassen sich Unternehmens-Suchsysteme aufsetzen, die strukturierte und unstrukturierte Daten gleichzeitig durchsuchen, ein Use Case, der außerhalb des Google-Cloud-Ökosystems erheblichen Eigenbau erfordert.

Unternehmen mit Multi-Modell-Strategie: Im Model Garden sind nicht nur Google-Modelle: Anthropic Claude (Sonnet, Opus, Haiku), Llama, Mistral, DeepSeek, Qwen und Hugging-Face-Modelle laufen über die gleiche API. Welche davon in EU-Regionen verfügbar sind, hängt vom jeweiligen Modell ab und sollte tagesaktuell geprüft werden. Wer eine Hedge-Strategie gegen einzelne Modellanbieter aufbauen will, hat hier eine ernsthafte Option.

Weniger geeignet für: Einsteiger ohne Cloud-Erfahrung (zu komplex), AWS- oder Azure-zentrierte Unternehmen (Amazon SageMaker bzw. Azure Machine Learning sind die natürlichere Wahl), Endnutzer, die nur einen Chatbot brauchen (dafür reicht die Consumer-App Gemini), und Teams, die ohne erheblichen MLOps-Aufwand starten wollen.

Preise im Detail

Komponente	Preis	Anmerkung
Free Trial	300 USD Startguthaben (90 Tage)	Für neue Google-Cloud-Konten, gilt für alle GCP-Dienste
Gemini 2.5 Pro	1,25 USD Input / 10 USD Output je 1M Token (≤200K)	Über 200K: 2,50 USD Input / 15 USD Output
Gemini 2.5 Flash	0,30 USD / 1M Input-Token, 2,50 USD / 1M Output	Workhorse-Modell, sehr günstig
Gemini 2.5 Flash Lite	0,10 USD / 1M Input-Token, 0,40 USD / 1M Output	Klassifikation, einfache Tasks
Prompt Caching	0,13 USD / 1M Token (Gemini 2.5 Pro)	Bis zu 90 % Rabatt auf wiederholte Eingaben
Batch / Flex API	50 % Rabatt	Bei asynchroner Verarbeitung, gilt für alle Gemini-Modelle
AutoML Tabular	Nach Knotenstunde (Training + Inferenz)	Compute-basiert, keine feste Token-Rate
Custom Training	Pay-per-Compute (CPU/GPU/TPU)	Nach genutzter Rechenzeit und Hardware
Vector Search	Index-Storage pro GB/Monat + Query-Kosten	Skaliert mit Indexgröße
Anthropic Claude über Model Garden	Token-Pricing nach Anthropic-Listentarif	Illustrativ: Claude Sonnet rund 3 USD / 1M Input (Anthropic-Preis, nicht Teil der Vertex-Preisliste)

Einordnung: Das Pricing wirkt auf den ersten Blick übersichtlich, pro 1M Token zu rechnen ist intuitiv. In der Praxis wird es aber schnell unübersichtlich: Cache-Hit-Quoten, Long-Context-Aufschlag oberhalb 200K Token, separate Inferenz- und Storage-Kosten, Vector-Search-Index-Gebühren, AutoML-Knotenstunden, wer hier kein striktes Cost Monitoring (über Cloud Billing Budgets, Cost Explorer und Quotas) aufsetzt, erlebt teure Überraschungen. Die 300 USD Startguthaben für neue Konten sind großzügig, decken aber bei intensiven Tests mit Gemini 2.5 Pro maximal ein paar Wochen Experimentierbetrieb ab. Für Produktionsbetrieb empfiehlt sich die Kombination aus Gemini 2.5 Flash für 90 % der Anfragen und Pro nur für anspruchsvolle Aufgaben, das senkt die Token-Kosten um eine Größenordnung.

Stärken im Detail

Direkter Zugriff auf die Gemini-Familie mit Enterprise-AVV. Wer Gemini.com nutzt, hat einen Consumer-Vertrag, Vertex AI bietet die gleichen Modelle (2.5 Pro, Flash, Flash Lite) mit AVV, Audit-Logs, IAM-Steuerung und der Möglichkeit, EU-Regionen zu wählen. Für Unternehmen, die Gemini ernsthaft einsetzen wollen, ist Vertex AI deshalb fast immer der richtige Pfad, nicht der API-Key auf der Consumer-Seite.

Model Garden als One-Stop-Shop. Eine breite Modellauswahl steht bereit: Gemini in allen Varianten, Anthropic Claude (Sonnet, Opus, Haiku, je nach Modell auch in EU-Regionen), Llama 3.3 und 4 von Meta, Mistral, DeepSeek, Qwen, Gemma, dazu Googles Imagen und Veo sowie Hugging-Face-Modelle als Deployments. Eine feste Modellzahl nennt Google nicht, aber diese Vielfalt unter einer einheitlichen API und einem Abrechnungsvertrag ist im Markt bemerkenswert, bei AWS Bedrock ist das Portfolio kleiner, bei Azure auf OpenAI plus Auswahl beschränkt.

Vertex AI Studio für rasches Prototyping. Vertex AI Studio ist eine browserbasierte Oberfläche, in der Prompt-Engineering, Modellvergleich, Multimodal-Tests (Bild plus Text plus Audio) und Few-Shot-Experimente direkt möglich sind, ohne Code, ohne SDK-Setup. Für die ersten Tage einer Evaluation ist das die produktivste Umgebung im Markt; auch Product Owner und Fachabteilungen können hier mitarbeiten.

Tiefe Integration mit BigQuery und dem Google-Datenökosystem. Daten in BigQuery können über ML.GENERATE_TEXT und ähnliche SQL-Funktionen direkt mit Gemini verarbeitet werden, ohne Pipeline, ohne ETL. Für Analytics-Teams, die unstrukturierte Daten (Reviews, Tickets, Mails) klassifizieren oder zusammenfassen wollen, ist das eine erhebliche Vereinfachung gegenüber dem klassischen “Daten exportieren, Modell aufrufen, Ergebnisse zurückspielen”-Workflow.

Agent Builder und RAG-Werkzeuge mit niedriger Hürde. Vertex AI Search und Agent Builder bieten bauklotzartige Komponenten für KI-Agenten: Tools, Function Calling, Memory, Vector Search, Multi-Agent-Orchestrierung. Was vor zwei Jahren nur mit erheblichem Eigenbau über LangChain möglich war, läuft hier als verwalteter Service, mit den dazu passenden GCP-Sicherheits- und Audit-Mechanismen.

Prompt Caching als echter Kostensenker. Bei Gemini 2.5 Pro werden gecachte Eingaben mit nur 0,13 USD/1M Token statt 1,25 USD abgerechnet, das ist ein 90-%-Rabatt. Für RAG-Systeme mit großem Kontext (z. B. 100K Token Hintergrundwissen plus 1K Token aktuelle Anfrage) sinken die Kosten dadurch dramatisch. Diese Optimierung muss aber bewusst implementiert werden; der Default-Aufruf nutzt sie nicht automatisch.

Schwächen ehrlich betrachtet

Komplexität ist das größte Hindernis. Vertex AI ist kein Tool, sondern eine Plattform mit über 30 Subdiensten: Workbench, Pipelines, Feature Store, Model Registry, Model Monitoring, Endpoints, Studio, Agent Builder, Search, Vector Search, AutoML in vier Varianten und mehr. Selbst erfahrene Cloud-Engineers brauchen Wochen, um die Architektur zu durchdringen. Die Dokumentation ist umfangreich, aber durch die häufigen Rebrandings (zuletzt Gemini Enterprise Agent Platform) inkonsistent, manche Anleitungen verweisen auf veraltete UIs.

Pricing-Intransparenz im Detail. Token-basiertes Pricing ist nur die Spitze des Eisbergs. Die monatliche Rechnung enthält typischerweise Posten für Compute (Inferenz), Storage (Modellartefakte, Indexe), Network Egress, Logging, Monitoring und vieles mehr. Wer keine Budget-Alerts und Quotas einrichtet, riskiert vier- bis fünfstellige Überraschungen, besonders bei automatisiertem Retraining oder wenn Test-Endpoints versehentlich produktiv hochskaliert werden.

EU-Region heißt nicht automatisch EU-Verarbeitung. Google bietet Vertex AI in europe-west3 (Frankfurt) und europe-west4 (Niederlande) an. Die Wahl einer Region allein garantiert aber nicht, dass jede Verarbeitung, insbesondere Inferenz, ausschließlich in dieser Region stattfindet. Für belastbare Datenresidenz müssen zusätzlich Data Residency Controls, VPC Service Controls und in einigen Fällen Assured Workloads for EU konfiguriert werden, ein erheblicher Konfigurationsaufwand und je nach Programm zusätzliche Kosten. Wer naiv “Region = europe-west3” einstellt und glaubt, damit DSGVO-konform zu sein, übersieht die Feinheiten. Die exakten Residenz-Zusagen solltest du vor dem Produktivbetrieb in Googles aktueller Dokumentation und im AVV nachlesen, wir konnten die maßgebliche Doku-Seite zuletzt nicht abrufen.

Vendor-Lock-in zur Google Cloud. Vertex AI Pipelines, Feature Store, Model Registry und Agent Builder sind proprietäre Dienste mit eigenen APIs und Datenformaten. Wer sein KI-Stack hier aufbaut, hat eine harte technische Abhängigkeit zu GCP, Migration zu AWS SageMaker oder Azure ML ist möglich, aber aufwändig. Teams, die Multi-Cloud-Flexibilität brauchen, sollten Abstraktionsschichten wie MLflow oder Kubeflow ergänzen.

Keine deutschsprachige Unterstützung. Konsole, Dokumentation und Support sind ausschließlich auf Englisch. Für deutsche Mittelständler mit gemischtem Sprachniveau im Team ist das eine reale Hürde, besonders für Power-Nutzer aus den Fachbereichen, die Vertex AI Studio nutzen sollen.

Häufige Rebrandings verwässern die Marke. Vertex AI war ursprünglich der Zusammenschluss von AI Platform und AutoML (2021). 2025 wurde der KI-Agent-Bereich als “Gemini Enterprise Agent Platform” rebrandet, parallel laufen weiterhin die Begriffe Vertex AI, Vertex AI Studio und Vertex AI Search. Diese Namens-Kakophonie macht es schwerer, einer Roadmap zu folgen oder externe Tutorials sicher einzuordnen.

Alternativen im Vergleich

Wenn du…	…nimm stattdessen
Auf AWS aufsetzt und ML-Workloads in Frankfurt brauchst	Amazon SageMaker
Microsoft Azure als Cloud nutzt	Azure Machine Learning oder Azure OpenAI Service
Eine deutsche/europäische Foundation-Model-Alternative brauchst	Aleph Alpha
Eine Lakehouse-zentrierte ML-Plattform suchst	Databricks
Vortrainierte Open-Source-Modelle ohne Cloud-Bindung deployen willst	Hugging Face

Erwähnenswert ohne eigene Tool-Seite: AWS Bedrock als direktes Pendant zu Model Garden (mit eigener Auswahl an Foundation Models und EU-Region Frankfurt) sowie DataRobot und H2O.ai als unabhängige AutoML-Plattformen. Vertex AI ist die logische Wahl für GCP-First-Unternehmen, wer die Cloud noch nicht festgelegt hat, sollte SageMaker, Azure ML und Vertex AI in Parallel-PoCs gegeneinander testen, denn die Plattform-Wahl bindet ein Team faktisch für Jahre.

So steigst du ein

Schritt 1: Google-Cloud-Konto und 300-USD-Guthaben aktivieren. Lege auf cloud.google.com ein Google-Cloud-Konto an, neue Konten erhalten 300 USD Startguthaben für 90 Tage, das deckt erste Tests komfortabel ab. Wähle bei der Projekt-Erstellung explizit eine EU-Region (europe-west3 für Frankfurt, europe-west4 für Amsterdam) und richte sofort Cloud Billing Budgets mit Alerts bei z. B. 50 USD und 100 USD ein, bevor du den ersten Modellaufruf machst.

Schritt 2: Mit Vertex AI Studio prototypen, dann produktiv gehen. Öffne in der Cloud Console das Modul Vertex AI Studio. Hier kannst du Gemini 2.5 Pro und Flash direkt im Browser testen, Prompts iterieren, multimodale Eingaben (Bilder, PDFs, Audio) anhängen. Diese Phase ist no-code, perfekt, um zusammen mit Fachabteilungen einen Use Case zu validieren. Erst wenn das Prompt sitzt, gehst du in die SDK-Integration (Python, Node.js, Java) und deployst über Cloud Run, GKE oder als verwalteter Endpoint.

Schritt 3: DSGVO-Konfiguration vor dem Produktivbetrieb. Wenn personenbezogene Daten verarbeitet werden, reicht die EU-Region allein nicht. Konfiguriere zusätzlich Data Residency Controls für Vertex AI, schalte VPC Service Controls ein, um den Datenverkehr auf das eigene Projekt zu begrenzen, und prüfe bei besonders sensiblen Anwendungsfällen Assured Workloads for EU. Lass den Google-Cloud-AVV vom Datenschutzbeauftragten gegenzeichnen, er ist standardmäßig Teil der GCP-Servicebedingungen, sollte aber dokumentiert werden.

Ein konkretes Beispiel

Das folgende Szenario ist illustrativ konstruiert, es zeigt einen typischen Einsatz, ist aber kein dokumentierter Referenzkunde. Ein mittelständischer E-Commerce-Anbieter aus Hamburg (180 Mitarbeitende, 2 Mio. SKUs) nutzt Vertex AI für eine intelligente Produktsuche. Die Produktdaten liegen bereits in BigQuery; ein wöchentlicher Job extrahiert Titel, Beschreibungen und Attribute, generiert über Gemini 2.5 Flash Embeddings und schreibt sie in einen Vector Search-Index in europe-west3. Im Webshop ruft das Frontend bei Suchanfragen den Vector-Search-Endpoint auf, ergänzt um eine Gemini-2.5-Pro-Anfrage, die aus den Top-10-Treffern ein erklärendes Snippet generiert (“Diese drei Modelle passen zu deiner Suche, weil…”). Vor Vertex AI lief die Suche über Elasticsearch mit reinem Keyword-Matching, die Conversion-Rate auf “Suche zu Kauf” ist seit Umstellung um etwa 14 % gestiegen, vor allem bei sprachlich unscharfen Anfragen (“warmer Pulli für draußen”). Monatliche Vertex-AI-Kosten: ca. 1.800 € bei rund 400.000 Suchen, getrieben überwiegend durch Embeddings und Vector-Search-Index-Storage. Der Aufbau hat ein zweiköpfiges Engineering-Team etwa sechs Wochen gebunden.

DSGVO & Datenschutz

• Datenhosting: EU-Regionen für Vertex AI verfügbar, gesichert vor allem europe-west3 (Frankfurt) und europe-west4 (Niederlande). Die reine Region-Wahl garantiert aber nicht, dass jede Verarbeitung, insbesondere Inferenz, ausschließlich in dieser Region bleibt. Welche EU-Regionen für dein konkretes Modell (z. B. ein bestimmtes Gemini- oder Claude-Modell) freigeschaltet sind, solltest du in Googles aktueller Regions-Übersicht prüfen.
• Data Residency: Für belastbare EU-Datenresidenz müssen Data Residency Controls aktiviert werden. Für höchste Anforderungen bietet Google das Programm Assured Workloads for EU mit zusätzlichen Compliance- und Personal-Kontrollen (z. B. EU-residente Support-Mitarbeiter).
• Datennutzung: Nach Googles Servicebedingungen nutzt Google Eingaben aus Vertex AI standardmäßig nicht zum Training seiner Foundation Models (anders als bei den Consumer-Apps). Die genaue Zusage steht im Cloud Data Processing Addendum, das solltest du vor dem Produktivbetrieb selbst gegenlesen.
• AVV / DPA: Standardbestandteil des Google Cloud Service-Vertrags, kein separater Abschluss notwendig. Für regulierte Branchen empfiehlt sich der zusätzliche Abschluss der Cloud Data Processing Addendum und die Aktivierung von CMEK (Customer-Managed Encryption Keys).
• Zertifizierungen: Google Cloud führt eine breite Compliance-Suite, u. a. ISO 27001, SOC 2 und BSI C5 (relevant für deutsche Behörden und KRITIS). Prüfe für deine Branche die aktuelle Zertifizierungsliste im Google Cloud Compliance-Center, der Umfang ändert sich laufend.
• VPC Service Controls: Empfohlen, um Datenverkehr auf das eigene GCP-Projekt zu beschränken und Datenexfiltration zu verhindern.
• Empfehlung für Unternehmen: EU-Region wählen ist Pflicht, aber nicht hinreichend, Data Residency Controls plus VPC Service Controls plus dokumentierte Datenschutz-Folgenabschätzung sind der saubere Weg. Für KRITIS- und Behörden-Anwendungen ist Assured Workloads zu prüfen.

Gut kombiniert mit

• BigQuery, direkte SQL-Integration mit Vertex AI über ML.GENERATE_TEXT. Analytics-Teams können unstrukturierte Daten (Mails, Tickets, Reviews) ohne Datenpipeline klassifizieren oder zusammenfassen.
• Hugging Face, Modelle aus dem Hugging-Face-Hub können über Model Garden direkt auf Vertex AI deployed werden. Praktisch für Open-Weight-Strategie ohne eigenen Hosting-Aufwand.
• Aleph Alpha, wer eine bewusste deutsche/europäische Foundation-Model-Strategie fährt, kann Aleph Alpha für besonders sensible Workloads parallel zu Vertex AI führen, Vertex für Skalierung und Multi-Modell-Zugriff, Aleph für die strikt souveränen Use Cases.

Unser Fazit

Google Vertex AI verdient 4 von 5 Sternen. Es ist die strategisch interessanteste Cloud-KI-Plattform: native Gemini-Integration, einer der breitesten Model Gardens im Markt, Agent Builder und Vector Search aus einem Guss. Für GCP-First-Teams ist Vertex AI die natürliche und beste Wahl. Den fünften Stern verliert es durch die erhebliche Komplexität, das schwer planbare Pricing, das Fehlen einer deutschsprachigen Oberfläche und vor allem durch die irreführende EU-Region-Default-Konfiguration: Wer Datenresidenz braucht, muss aktiv konfigurieren, die bloße Region-Wahl reicht nicht. Wer diese Hürden bewusst nimmt, bekommt eine Plattform mit echtem Spitzen-Niveau. Wer sie unterschätzt, baut sich Compliance- und Kostenrisiken ein.

Was wir bemerkt haben

• 2025, Google hat Vertex AI offiziell zu Gemini Enterprise Agent Platform umbenannt. Der alte Name “Vertex AI” lebt aber weiter, viele Subdienste heißen weiterhin Vertex AI Studio, Vertex AI Search, Vertex AI Pipelines. In Dokumentation und Marketing existieren beide Namen parallel, was die Orientierung erschwert. Wir behalten “Vertex AI” als pragmatischen Sammelbegriff bei.
• Mai 2026, Anthropic Claude (Sonnet, Opus, Haiku) ist über Model Garden verfügbar, je nach Modell auch in EU-Regionen. Das ist eine der wenigen Möglichkeiten, Claude DSGVO-konformer als über die Consumer-App claude.ai zu betreiben (neben AWS Bedrock). Die konkrete Regions-Verfügbarkeit pro Claude-Modell bitte tagesaktuell prüfen.
• 2025, Mit Gemini 2.5 hat Google das Pricing massiv vereinfacht: weg von der Abrechnung pro 1.000 Zeichen (Gemini 1.5) hin zu pro 1M Token. Der Long-Context-Aufschlag oberhalb 200K Token bleibt aber, bei sehr langen Eingaben verdoppeln sich die Kosten.
• Laufend, die reine EU-Region-Wahl bietet keine garantierte Datenresidenz für jede Verarbeitung. Das ist ein häufig übersehenes Detail bei DSGVO-Bewertungen, wer das Briefing seiner Datenschutzbeauftragten nur auf “Region = Frankfurt” stützt, hat eine Lücke. Data Residency Controls und Assured Workloads sind die ergänzenden Bausteine. Die maßgebliche Doku-Seite von Google war bei unserer letzten Prüfung nicht abrufbar, prüfe den Stand vor dem Produktivbetrieb direkt bei Google.
• 2024, Google hat Prompt Caching für Gemini-Modelle eingeführt. Bei wiederholten langen Eingaben (RAG-Systeme mit großem Kontext) sinken die Kosten um bis zu 90 %. Wer Vertex AI produktiv einsetzt und das nicht implementiert, lässt erheblichen Spielraum liegen.