Bis hierhin ging es in unserer Serie vor allem darum, was KI kann. In diesem Teil geht es um die Frage, wie man sie richtig einsetzt. Denn je mehr KI übernimmt – vom Entwurf einer E-Mail bis zur selbstständigen Aktion eines Agenten –, desto wichtiger wird verantwortungsvolle KI. Gemeint ist ein Einsatz, der fair, sicher, nachvollziehbar und rechtskonform ist. Das ist kein Bremsklotz, sondern im Gegenteil die Voraussetzung dafür, dass Mitarbeitende, Kunden und Betriebsrat der KI überhaupt vertrauen.
Serie: KI einfach erklärt · von Andreas & Dennis
Warum verantwortungsvolle KI kein Nebenthema ist
Aus den bisherigen Teilen kennt ihr nämlich bereits die typischen Schwachstellen. Ein Sprachmodell liefert Wahrscheinlichkeiten statt Gewissheiten und kann halluzinieren (Teil 2). Ein KI-Agent kann nicht nur etwas Falsches sagen, sondern auch etwas Falsches tun (Teil 3). Dazu kommen drei weitere Risiken, die im Alltag oft unterschätzt werden:
- Verzerrungen: Eine KI lernt aus Daten. Enthalten diese Daten Vorurteile, etwa in alten Bewerbungsentscheidungen, übernimmt das Modell sie.
- Datenabfluss: Eine KI findet alles, worauf sie Zugriff hat. Alte, zu großzügige Freigaben werden dadurch plötzlich sichtbar.
- Blindes Vertrauen: Gut formulierte Antworten wirken kompetent, auch wenn sie falsch sind. Ohne Kontrolle landen Fehler schnell in Angeboten oder Entscheidungen.
Sechs Prinzipien für verantwortungsvolle KI bei Microsoft
Zunächst hat Microsoft seinen Ansatz für verantwortungsvolle KI in sechs Prinzipien zusammengefasst. Sie gelten für die eigenen Produkte, eignen sich aber genauso als Leitfaden für eure eigene KI-Richtlinie.
| Prinzip | Kurz gesagt | Ein Beispiel aus dem Alltag |
|---|---|---|
| Fairness | KI soll alle Menschen gleich behandeln | Ein Agent, der Bewerbungen vorsortiert, darf niemanden wegen Alter oder Herkunft benachteiligen |
| Zuverlässigkeit und Sicherheit | KI soll wie vorgesehen funktionieren, auch in ungewöhnlichen Situationen | Ein Agent bricht ab und fragt nach, statt bei unklaren Daten zu raten |
| Datenschutz und Sicherheit | KI soll Daten schützen und Privatsphäre respektieren | Copilot zeigt nur Inhalte, auf die die Person ohnehin Zugriff hat |
| Inklusion | KI soll für alle nutzbar sein | Sprachsteuerung und Vorlesefunktionen helfen Menschen mit Einschränkungen |
| Transparenz | Menschen sollen verstehen, wie KI zu Ergebnissen kommt | Copilot zeigt die Quellen an, auf die sich eine Antwort stützt |
| Verantwortlichkeit | Menschen bleiben für KI-Systeme verantwortlich | Jeder Agent hat einen benannten Verantwortlichen, der eingreifen kann |
Die ersten fünf Prinzipien beschreiben dabei, wie KI sein soll. Das sechste ist hingegen das Fundament: Am Ende trägt immer ein Mensch die Verantwortung – nicht das Modell und nicht der Hersteller.
Wie Microsoft die Prinzipien umsetzt
Allerdings helfen Prinzipien allein wenig, wenn sie nicht im Produkt ankommen. Microsoft setzt sie über mehrere Bausteine um:
- Der Responsible AI Standard legt intern verbindliche Anforderungen für alle KI-Produkte fest.
- Ein eigenes AI Red Team greift KI-Systeme vor der Veröffentlichung gezielt an, um Schwachstellen zu finden.
- Mit dem Frontier Governance Framework bewertet Microsoft Risiken besonders leistungsfähiger Modelle.
- Im jährlichen Responsible AI Transparency Report legt Microsoft offen, wie es KI entwickelt und absichert, zuletzt im Bericht für 2025.
- Für einzelne Produkte gibt es Transparenzhinweise und sogenannte Application Cards. Sie beschreiben, wofür ein Dienst gedacht ist und wo seine Grenzen liegen – etwa die Application Card zu Copilot Cowork.
Für Entwicklerteams stellt Microsoft außerdem Werkzeuge bereit, zum Beispiel Inhaltsfilter und Prompt Shields in Microsoft Foundry, die schädliche Inhalte und Prompt-Injection-Versuche abfangen, sowie das Responsible AI Dashboard in Azure Machine Learning.
Geteilte Verantwortung
Microsoft macht die Plattform sicher – für euren Anwendungsfall seid ihr aber selbst verantwortlich. Die Dokumentation des Microsoft Agent Framework sagt das sehr deutlich: Wer damit Anwendungen baut, muss sie für den eigenen Einsatzzweck prüfen und testen und eigene Schutzmaßnahmen umsetzen. Das gilt genauso für jeden Agenten aus Copilot Studio.
Der EU AI Act: Was gilt wann?
Für Unternehmen in Europa ist verantwortungsvolle KI jedoch nicht nur eine Frage der Haltung, sondern auch des Rechts. Der EU AI Act ist seit August 2024 in Kraft und gilt schrittweise. Im Juli 2026 hat die EU mit dem sogenannten KI-Omnibus (Verordnung (EU) 2026/1744) allerdings einige Fristen und Pflichten angepasst. Viele ältere Artikel zum Thema sind deshalb nicht mehr aktuell.
- Seit Februar 2025 sind bestimmte KI-Praktiken verboten, etwa Social Scoring oder manipulative Techniken. Gleichzeitig gilt die Pflicht zur KI-Kompetenz (Artikel 4).
- Seit August 2025 gelten Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, also zum Beispiel für die Hersteller großer Sprachmodelle.
- Seit August 2026 gelten die Transparenzpflichten: Menschen müssen erkennen können, dass sie mit einer KI sprechen, und Deepfakes müssen gekennzeichnet werden. Diese Pflichten hat der KI-Omnibus nicht verschoben.
- Ab Dezember 2027 gelten die Pflichten für eigenständige Hochrisiko-Systeme, zum Beispiel KI in der Personalauswahl oder bei der Kreditwürdigkeitsprüfung. Ursprünglich war dafür August 2026 vorgesehen.
- Ab August 2028 folgen Hochrisiko-Systeme, die in bereits regulierte Produkte eingebaut sind.
Bei der KI-Kompetenz hat der Omnibus die Formulierung entschärft. Statt sicherzustellen, dass das Personal ausreichend KI-Kompetenz hat, müssen Unternehmen nun geeignete Maßnahmen ergreifen, um diese Kompetenz zu fördern. Abgeschafft ist die Pflicht aber nicht. Wer Copilot oder Agenten einführt, braucht also weiterhin ein Schulungskonzept – mehr dazu in Teil 7.
Kein Rechtsrat
Wir sind übrigens keine Juristen. Dieser Abschnitt soll euch einen Überblick geben, ersetzt aber keine rechtliche Beratung. Für die Einordnung eurer konkreten Anwendungsfälle zieht bitte eure Rechtsabteilung oder den Datenschutz hinzu.
Verantwortungsvolle KI technisch umsetzen: Datenschutz und Sicherheit
Letztlich ist ein großer Teil verantwortungsvoller KI schlicht gute IT-Sicherheit. Für Microsoft Copilot und Agenten heißt das vor allem:
- Berechtigungen aufräumen: Copilot respektiert Berechtigungen, macht aber auch zu großzügige Freigaben sichtbar. SharePoint Advanced Management hilft, Oversharing zu finden und zu beheben.
- Daten klassifizieren: Vertraulichkeitsbezeichnungen aus Microsoft Purview werden von Copilot erkannt und übernommen.
- Abfluss verhindern: Mit Data Loss Prevention lassen sich zum Beispiel Prompts mit sensiblen Daten blockieren.
- KI-Nutzung sichtbar machen: Purview zeigt, welche KI-Anwendungen im Unternehmen genutzt werden und wo sensible Daten im Spiel sind.
- Agenten steuern: Microsoft Agent 365 bündelt Inventar, Governance und Schutz für alle Agenten.
Die Details haben wir in unseren Serien ausführlich beschrieben: Zero Trust in der Praxis für die Grundlagen und Zero Trust für KI-Agenten speziell für Agenten.
Eure Checkliste für verantwortungsvolle KI im Unternehmen
Zum Abschluss deshalb eine kompakte Liste, mit der ihr im eigenen Unternehmen starten könnt:
- KI-Richtlinie schreiben: Legt fest, welche KI-Werkzeuge erlaubt sind, wofür sie genutzt werden dürfen und welche Daten tabu sind.
- Anwendungsfälle bewerten: Ordnet jeden Einsatz nach Risiko ein. Ein Zusammenfassungs-Agent für Meetings ist etwas anderes als ein Agent, der Bewerbungen vorsortiert.
- Mensch im Loop festlegen: Bestimmt, welche Aktionen eine Freigabe brauchen und wer für welchen Agenten verantwortlich ist.
- Transparent sein: Kennzeichnet Chatbots gegenüber Kunden und erklärt intern, wo KI im Einsatz ist.
- Datenschutz klären: Bezieht den Datenschutz früh ein, gerade bei personenbezogenen Daten.
- Schulen: Sorgt dafür, dass alle Nutzenden wissen, was KI kann, was nicht und wie man Ergebnisse prüft.
- Überwachen: Beobachtet Nutzung, Fehler und Vorfälle und passt die Regeln regelmäßig an.
Fazit und Ausblick
Verantwortungsvolle KI bedeutet, KI fair, zuverlässig, sicher, inklusiv, transparent und mit klarer Verantwortung einzusetzen. Microsoft liefert dafür Prinzipien und Werkzeuge, den eigenen Anwendungsfall müsst ihr aber selbst bewerten. Der EU AI Act gibt den rechtlichen Rahmen vor, und nach dem KI-Omnibus lohnt sich ein genauer Blick auf die neuen Fristen.
Im letzten Teil der Serie bringt Dennis alles zusammen: Wie führt man KI im Unternehmen so ein, dass sie tatsächlich genutzt wird und messbaren Nutzen bringt?
Weiterführende Links
- Verantwortungsvolle KI bei Microsoft
- Verantwortungsvolle KI-Richtlinien im Cloud Adoption Framework (Microsoft Learn)
- Microsoft Purview für KI (Microsoft Learn)
- KI-Omnibus: Was ändert sich am EU AI Act? (usd AG)
Serie: KI einfach erklärt · von Andreas & Dennis
