Microsoft Foundry: Definition, Funktionen und Einsatz für KMU

‍

Microsoft Foundry ist Microsofts zentrale Plattform für die Entwicklung, Bereitstellung und Verwaltung von KI-Anwendungen und KI-Agenten. Die Platform-as-a-Service-Lösung vereint über 11.000 KI-Modelle, Entwicklerwerkzeuge und Enterprise-Governance unter einem Dach. Dieser Artikel erklärt, was Microsoft Foundry ist, welche Komponenten die Plattform umfasst und wie KMU von der einheitlichen KI-Entwicklungsumgebung profitieren.

‍

Was ist Microsoft Foundry?

Microsoft Foundry – bis November 2025 als Azure AI Foundry bekannt – ist eine cloudbasierte Platform-as-a-Service (PaaS) auf Microsoft Azure. Die Plattform ermöglicht es Entwicklern und Unternehmen, den gesamten Lebenszyklus von KI-Anwendungen abzubilden: von der ersten Idee über Prototyping und Entwicklung bis hin zu Deployment und laufendem Monitoring.

Konkret vereint Microsoft Foundry drei Kernbereiche: einen umfangreichen Modellkatalog mit Foundation Models verschiedener Anbieter, eine einheitliche Entwicklungsumgebung mit SDKs und APIs sowie Enterprise-Funktionen für Sicherheit, Compliance und Governance. Die Plattform richtet sich primär an professionelle Entwickler und Data Scientists, die KI-Lösungen mit vollem technischen Kontrolle umsetzen möchten.

Der wesentliche Unterschied zu anderen Microsoft-KI-Produkten liegt im Ansatz: Während Microsoft 365 Copilot fertige KI-Assistenten bereitstellt und Copilot Studio eine Low-Code-Umgebung für Chatbots bietet, ist Microsoft Foundry eine Code-First-Plattform für maßgeschneiderte KI-Entwicklung. Entwickler arbeiten hier mit Python, JavaScript oder .NET und haben direkten Zugriff auf APIs, Modellparameter und Infrastruktur.

Microsoft gibt an, dass Foundry bereits von mehr als 80.000 Unternehmen genutzt wird, darunter 80 Prozent der Fortune-500-Konzerne. Für KMU bedeutet das: Die Plattform ist erprobt, skalierbar und bietet Enterprise-Grade-Sicherheit – ohne dass Unternehmen eine eigene KI-Infrastruktur aufbauen müssen.

‍

Die Komponenten von Microsoft Foundry

Microsoft Foundry besteht aus mehreren ineinandergreifenden Komponenten, die zusammen eine vollständige KI-Entwicklungsumgebung bilden.

Foundry Models: Der Modellkatalog

Im Zentrum steht der Modellkatalog mit über 11.000 vortrainierten KI-Modellen. Dieser umfasst Modelle verschiedener Kategorien: Large Language Models für Textverarbeitung, Vision Models für Bildanalyse, Speech Models für Spracherkennung und multimodale Modelle, die verschiedene Eingabetypen kombinieren.

Neben Microsofts eigenen Azure OpenAI-Modellen (GPT-4, GPT-4o) finden sich Modelle von Drittanbietern wie Anthropic Claude, Meta Llama, Mistral AI, DeepSeek und Cohere. Für KMU besonders interessant: Die kleineren Phi-Modelle von Microsoft ermöglichen kostengünstige Anwendungen mit geringerer Latenz.

‍

Foundry Agent Service: KI-Agenten orchestrieren

Der Foundry Agent Service ermöglicht die Entwicklung autonomer KI-Agenten, die selbstständig Aufgaben ausführen und mit Unternehmenssystemen interagieren. Agenten können auf Datenquellen zugreifen, APIs aufrufen und mehrstufige Workflows automatisieren.

Ein Agent unterscheidet sich von einem einfachen Chatbot durch seine Handlungsfähigkeit: Während ein Chatbot Fragen beantwortet, kann ein Agent beispielsweise Bestellungen auslösen, Dokumente erstellen oder Support-Tickets klassifizieren und weiterleiten. Der Agent Service unterstützt dabei Multi-Agent-Architekturen, bei denen mehrere spezialisierte Agenten zusammenarbeiten.

‍

Foundry IQ: Wissensbasis und RAG

Foundry IQ – basierend auf Azure AI Search – ermöglicht Retrieval-Augmented Generation (RAG). Damit können KI-Anwendungen auf Unternehmensdaten zugreifen und kontextbezogene Antworten generieren, die auf internen Dokumenten, Datenbanken oder Webinhalten basieren.

Für KMU bedeutet das: Ein Chatbot kann nicht nur allgemeine Fragen beantworten, sondern Informationen aus der eigenen Wissensbasis abrufen – etwa aus SharePoint-Dokumenten, CRM-Daten oder Produktkatalogen. Die integrierten Berechtigungskontrollen stellen sicher, dass Nutzer nur Informationen erhalten, auf die sie auch Zugriff haben.

‍

Foundry Tools: Fertige Bausteine

Foundry Tools sind vorgefertigte APIs für häufige KI-Aufgaben: Dokumentenverarbeitung (OCR), Übersetzung, Sprach-zu-Text, Objekterkennung und mehr. Diese Bausteine beschleunigen die Entwicklung, da Standardfunktionen nicht selbst trainiert werden müssen.

Zusätzlich unterstützt die Plattform das Model Context Protocol (MCP), über das eigene APIs als Tools eingebunden werden können. Mit über 1.400 vorkonfigurierten Konnektoren zu Unternehmenssystemen wie SAP, Salesforce und Dynamics 365 lassen sich KI-Anwendungen nahtlos in bestehende IT-Landschaften integrieren.

‍

Foundry Portal und SDKs

Das webbasierte Foundry Portal unter ai.azure.com dient als zentrale Oberfläche für Modellauswahl, Projektmanagement und Deployment. Entwickler können Modelle im Playground testen, Fine-Tuning durchführen und Deployments verwalten.

Für die Code-Entwicklung stehen SDKs für Python, JavaScript und .NET bereit. Eine VS Code Extension ermöglicht die direkte Entwicklung in der gewohnten Entwicklungsumgebung. 25 vorgefertigte App-Templates beschleunigen den Einstieg in typische Anwendungsfälle.

‍

Praktische Anwendungsbeispiele

Microsoft Foundry eignet sich für verschiedene KI-Projekte. Die folgenden Beispiele zeigen typische Einsatzszenarien für KMU.

‍

Intelligenter Kundenservice-Agent

Ein mittelständischer Online-Händler implementiert einen KI-Agenten für den First-Level-Support. Der Agent ist mit Foundry IQ an die Wissensbasis (FAQ, Produktdokumentation, Retourenrichtlinien) angebunden und kann 60-70 Prozent der eingehenden Anfragen automatisiert beantworten. Bei komplexeren Fällen erstellt er automatisch ein Ticket im CRM-System mit allen relevanten Kontextinformationen. Typische Projektdauer: 4-8 Wochen. Ergebnis: Reduktion der durchschnittlichen Bearbeitungszeit um 40 Prozent.

‍

Dokumentenverarbeitung in der Buchhaltung

Ein Produktionsunternehmen nutzt Foundry Tools zur automatisierten Rechnungserfassung. Eingehende Rechnungen werden per OCR erfasst, relevante Daten (Lieferant, Betrag, Positionen) extrahiert und mit offenen Bestellungen im ERP-System abgeglichen. Abweichungen werden zur manuellen Prüfung markiert. Typische Implementierung: 3-5 Wochen. Ergebnis: 80 Prozent der Standardrechnungen werden vollautomatisch verarbeitet.

‍

KI-gestützte Vertriebsassistenz

Ein IT-Systemhaus entwickelt einen internen Assistenten, der Vertriebsmitarbeiter bei der Angebotserstellung unterstützt. Der Agent greift auf historische Angebote, Produktkataloge und Kundenhistorien zu und generiert Entwürfe für neue Angebote. Fine-Tuning sorgt dafür, dass der Output dem unternehmenseigenen Sprachstil entspricht. Entwicklungszeit: 6-8 Wochen. Ergebnis: Zeitersparnis von 50 Prozent bei der Angebotserstellung.

‍

Predictive Maintenance in der Fertigung

Ein Maschinenbauunternehmen analysiert Sensordaten von Produktionsanlagen mit einem Vision-Modell und Zeitreihenanalyse. Das System erkennt Anomalien und prognostiziert Wartungsbedarfe, bevor Ausfälle auftreten. Integration über Azure IoT Hub und Event Grid. Projektumfang: 8-12 Wochen. Ergebnis: Reduktion ungeplanter Stillstände um 35 Prozent.

‍

Kosten und Preismodell

Microsoft Foundry selbst ist kostenfrei nutzbar – Sie zahlen nur für die tatsächlich genutzten Azure-Dienste und Modelle. Das Preismodell basiert auf mehreren Komponenten.

‍

Modellkosten nach Verbrauch

Die meisten Modelle werden nach Token-Verbrauch abgerechnet – also der Menge an verarbeitetem Text. Die Preise variieren je nach Modell erheblich. GPT-4o kostet etwa 2,50-10 USD pro Million Token, GPT-4 Turbo liegt bei 10-30 USD. Die kleineren Phi-4-Modelle sind mit 0,07-0,14 USD deutlich günstiger. Llama 3.1 bewegt sich bei 0,25-1,00 USD, Mistral Large bei 2-6 USD pro Million Token.

Für planbare Workloads bietet Microsoft Provisioned Throughput: Sie reservieren eine feste Kapazität und zahlen einen vorhersehbaren Monatspreis – unabhängig vom tatsächlichen Verbrauch.

Hinweis: Kein Gewähr für die Aktualität und Genauigkeit der aufgeführten Preise. Die aktuellen Preise entnehmen Sie bitte der offiziellen Microsoft Foundry Dokumentation.

‍

Zusätzliche Azure-Kosten

Neben den Modellkosten fallen Kosten für Azure-Infrastruktur an: Compute-Ressourcen für Agent-Workloads, Azure AI Search für RAG-Implementierungen, Speicher für Trainingsdaten und Logs sowie optionale Dienste wie Speech oder Vision.

Für ein typisches KMU-Projekt mit moderatem Nutzungsvolumen liegen die monatlichen Kosten zwischen 500 und 3.000 Euro. Komplexere Implementierungen mit hohem Durchsatz oder Fine-Tuning können deutlich höher ausfallen.

‍

Kostenoptimierung

Microsoft bietet mehrere Hebel zur Kostenoptimierung: Model Routing wählt automatisch das günstigste geeignete Modell für eine Anfrage. Caching reduziert redundante API-Aufrufe. Idle-Shutdown schaltet ungenutzte Compute-Ressourcen ab. Der Azure Cost Management Service ermöglicht detaillierte Kostenanalysen und Budget-Alerts.

‍

Best Practices für den Einstieg

Die folgenden Empfehlungen helfen KMU, Microsoft Foundry erfolgreich einzusetzen.

1. Mit einem konkreten Use Case starten. Identifizieren Sie einen abgegrenzten Anwendungsfall mit messbarem Mehrwert, bevor Sie die Plattform evaluieren. Ein fokussierter Proof of Concept ist aussagekräftiger als eine breite Technologieevaluation.

2. Das richtige Modell wählen. Nicht immer ist das leistungsstärkste Modell die beste Wahl. Kleinere Modelle wie Phi-4 sind für viele Aufgaben ausreichend, deutlich günstiger und schneller. Nutzen Sie den Model-Benchmark im Foundry Portal, um Modelle für Ihren Anwendungsfall zu vergleichen.

3. RAG vor Fine-Tuning einsetzen. Retrieval-Augmented Generation ist meist der schnellere und kostengünstigere Weg, um Modelle mit Unternehmenswissen anzureichern. Fine-Tuning sollte erst dann in Betracht gezogen werden, wenn RAG nicht die gewünschte Qualität liefert.

4. Governance von Anfang an planen. Definieren Sie frühzeitig, wer Zugriff auf welche Modelle und Daten hat. Die integrierten RBAC-Funktionen (Role-Based Access Control) und Azure Policy-Integration ermöglichen granulare Zugriffssteuerung.

5. Monitoring und Evaluation etablieren. Richten Sie von Beginn an Metriken für Qualität, Latenz und Kosten ein. Die eingebauten Tracing- und Evaluation-Tools helfen, Probleme frühzeitig zu erkennen und Modelle kontinuierlich zu verbessern.

6. Hybrid-Ansatz mit Copilot Studio erwägen. Für viele KMU-Szenarien bietet sich eine Kombination an: Copilot Studio für die Benutzeroberfläche und einfache Workflows, Microsoft Foundry für komplexe Backend-Logik und Datenverarbeitung.

‍

Häufige Fehler vermeiden

Bei der Einführung von Microsoft Foundry treten immer wieder ähnliche Probleme auf. Diese Fehler sollten Sie vermeiden.

1. Überdimensionierte Modellwahl. Viele Unternehmen greifen reflexartig zu GPT-4, obwohl ein kleineres Modell ausreichen würde. Das führt zu unnötig hohen Kosten und längeren Antwortzeiten. Testen Sie verschiedene Modelle mit Ihren konkreten Anforderungen.

2. Fehlende Datenqualität für RAG. Retrieval-Augmented Generation ist nur so gut wie die zugrundeliegende Wissensbasis. Unstrukturierte, veraltete oder widersprüchliche Dokumente führen zu mangelhaften Ergebnissen. Investieren Sie Zeit in Datenaufbereitung und -pflege.

3. Unzureichendes Prompt Engineering. Die Qualität der KI-Ausgaben hängt maßgeblich von den Eingabeaufforderungen ab. Schlecht formulierte Prompts führen zu inkonsistenten oder irrelevanten Antworten. Dokumentieren Sie erfolgreiche Prompts und iterieren Sie systematisch.

4. Vernachlässigte Kostenkontrolle. Ohne Monitoring können Kosten schnell eskalieren, besonders bei unerwartet hohem Nutzungsvolumen oder ineffizienten Implementierungen. Richten Sie Budget-Alerts ein und überwachen Sie Token-Verbrauch regelmäßig.

5. Isolation von der IT-Abteilung. KI-Projekte, die ohne Einbindung der IT entstehen, scheitern häufig an Security-Anforderungen oder Integrationshürden. Beziehen Sie IT-Verantwortliche frühzeitig ein und klären Sie Compliance-Anforderungen vor Projektstart.

‍

Microsoft Foundry vs. Copilot Studio

Beide Plattformen gehören zum Microsoft-KI-Ökosystem, adressieren aber unterschiedliche Zielgruppen und Anwendungsfälle.

‍

Bei der Zielgruppe unterscheiden sich die Plattformen deutlich: Microsoft Foundry richtet sich an Entwickler und Data Scientists, während Copilot Studio für Business User und Citizen Developer konzipiert ist. Der Ansatz ist bei Foundry Code-First (Python, .NET, JS), bei Copilot Studio Low-Code bzw. No-Code.

Die Modellauswahl bei Foundry umfasst über 11.000 Modelle mit voller Kontrolle, Copilot Studio arbeitet mit vorkonfigurierten Modellen. Bei der Anpassung bietet Foundry Fine-Tuning und eigene Modelle, Copilot Studio begrenzte Konfiguration. Integrationen sind bei Foundry API-basiert und flexibel, bei Copilot Studio über Power Platform Konnektoren gelöst.

Die Governance erfolgt bei Foundry mit granularer Kontrolle, bei Copilot Studio managed by Microsoft. Time-to-Value liegt bei Foundry bei Wochen bis Monaten, bei Copilot Studio bei Stunden bis Tagen. Die typischen Kosten sind bei Foundry variabel und nutzungsbasiert, bei Copilot Studio Pro-User-Lizenzierung.

Die Entscheidung hängt vom konkreten Anwendungsfall ab: Copilot Studio eignet sich für schnelle Chatbot-Implementierungen mit Microsoft-365-Integration. Microsoft Foundry ist die Wahl für komplexe KI-Anwendungen, die tiefe Anpassung, spezifische Modelle oder Integration mit Nicht-Microsoft-Systemen erfordern.

Viele Unternehmen nutzen beide Plattformen komplementär: Copilot Studio als benutzerfreundliche Oberfläche für Endanwender, Microsoft Foundry für die komplexe Backend-Logik dahinter.

‍

Häufige Fragen rund um Microsoft Foundry

Was ist der Unterschied zwischen Microsoft Foundry und Azure AI Foundry?

Es gibt keinen funktionalen Unterschied – Microsoft hat die Plattform im November 2025 von Azure AI Foundry in Microsoft Foundry umbenannt. Die Umbenennung spiegelt die erweiterte Positionierung als unternehmensweite KI-Plattform wider, die über reine Azure-Dienste hinausgeht. Bestehende Projekte und Ressourcen bleiben unverändert.

Benötige ich Programmierkenntnisse für Microsoft Foundry?

Grundsätzlich ja. Microsoft Foundry ist eine Code-First-Plattform für professionelle Entwickler. Zwar lassen sich einfache Modellabfragen über das Portal testen, für produktive Anwendungen sind jedoch Kenntnisse in Python, JavaScript oder .NET erforderlich. Für No-Code-Anforderungen ist Copilot Studio die bessere Wahl.

Wie sicher sind meine Daten in Microsoft Foundry?

Microsoft Foundry erfüllt Enterprise-Sicherheitsstandards: Daten werden verschlüsselt übertragen und gespeichert. RBAC ermöglicht granulare Zugriffssteuerung. Die Plattform unterstützt private Netzwerke und Bring-Your-Own-Key-Verschlüsselung. Compliance-Zertifizierungen wie ISO 27001, SOC 2 und GDPR sind vorhanden. Für regulierte Branchen bietet Microsoft Foundry zusätzliche Governance-Funktionen über Microsoft Purview.

Kann ich bestehende Modelle mit eigenen Daten trainieren?

Ja, Microsoft Foundry unterstützt Fine-Tuning für ausgewählte Modelle wie GPT-4, Llama und Mistral. Sie können Modelle mit eigenen Trainingsdaten anpassen, ohne diese mit Microsoft zu teilen. Alternativ ermöglicht Retrieval-Augmented Generation (RAG) die Einbindung von Unternehmenswissen ohne Modelltraining.

Welche Vorkenntnisse benötigt mein Team?

Für ein erfolgreiches Foundry-Projekt sollte Ihr Team Erfahrung in Cloud-Entwicklung (idealerweise Azure), API-Integration und mindestens einer unterstützten Programmiersprache mitbringen. KI-spezifisches Wissen zu Prompt Engineering, RAG und Modellauswahl ist hilfreich, kann aber parallel aufgebaut werden. Für den Einstieg empfiehlt sich ein begleitetes Pilotprojekt mit erfahrenem Partner.

‍

Fazit

Microsoft Foundry etabliert sich als zentrale Plattform für professionelle KI-Entwicklung im Microsoft-Ökosystem. Mit dem umfangreichen Modellkatalog, flexiblen Entwicklerwerkzeugen und Enterprise-Grade-Governance bietet die Plattform KMU einen strukturierten Einstieg in maßgeschneiderte KI-Anwendungen – von intelligenten Agenten über Dokumentenautomatisierung bis hin zu datengetriebenen Assistenzsystemen.

Der Schlüssel zum Erfolg liegt in der realistischen Einschätzung der eigenen Anforderungen: Nicht jedes KI-Projekt braucht die volle Flexibilität von Microsoft Foundry. Für standardisierte Chatbot-Szenarien mit Microsoft-365-Integration ist Copilot Studio oft der schnellere Weg. Wo jedoch tiefe Anpassung, spezifische Modelle oder komplexe Integrationen gefragt sind, bietet Microsoft Foundry die notwendige Kontrolle und Skalierbarkeit.

Als Microsoft-Partner mit Schwerpunkt auf Cloud-Lösungen und KI-Integration unterstützt computech KMU bei der Evaluierung, Planung und Umsetzung von Microsoft-Foundry-Projekten – vom initialen Proof of Concept bis zum produktiven Betrieb.