Angesichts der raschen Entwicklung von Künstlicher Intelligenz (KI) müssen Organisationen, die diese Technologien nutzen, vor allem auf angemessene Schutz- und Sicherheitsmaßnahmen achten und ein übergreifendes Governance-Framework einsetzen. Wird die KI-Governance vernachlässigt, so steigt das Risiko von Datenlecks und Betrugsfällen und die Einhaltung von Datenschutzgesetzen kann nicht ausreichend sichergestellt werden.

Von Organisationen, die KI verwenden, wird erwartet, dass sie transparent agieren, Compliance und Regelkonformität sicherstellen und ihre Prozesse durchgehend standardisieren. Wie können Sie also eine ausreichende KI-Governance einführen?

Was ist Künstliche Intelligenz?

Der Begriff KI umfasst ein breites Spektrum von Anwendungen, die menschliche Intelligenz bzw. menschliche kognitive Fähigkeiten imitieren. Das Herzstück der KI ist die Kombination von Mustererkennung und Datenanalyse, die es ermöglicht, dass bestimmte Aufgaben nach vordefinierten Regeln und Algorithmen ausgeführt werden können.

Im Bereich der Automation spielt die intelligente Automatisierung (IA) eine wichtige Rolle, die bestimmte KI-Fähigkeiten mit anderen kognitiven Technologien kombiniert. Dazu gehören unter anderem Robotic Process Automation (RPA), Business-Process-Management (BPM), Process Intelligence, No-Code-Entwicklung und die Verarbeitung natürlicher Sprache (NLP). Mit diesen Technologien können Unternehmen ihre Routine-Vorgänge automatisieren und generell ihre Arbeitsweise grundlegend transformieren. Immer mehr Unternehmen wählen im Hinblick auf ihre zukünftige Arbeitsweise einen automatisierten Ansatz. Wenn RPA und KI kombiniert werden, führt dies zu mehr Effizienz und mehr Einsparungen. Darüber hinaus wird auch die strikte Einhaltung gesetzlicher Auflagen sichergestellt.

Was ist generative KI?

Mit generativer KI können anhand von Trainingsdatensätzen neue Inhalte erstellt werden, darunter Bilder, Videos und Textinhalte. Auch wenn im Bereich der generativen KI noch viel Arbeit zu leisten ist – beispielsweise, wenn es um Sicherheit oder Regelkonformität geht –, befindet sich diese Technologie heute immer mehr auf dem Vormarsch. Generative KI hat viele potenzielle Anwendungsfelder, und daher muss sichergestellt werden, dass bei der Implementierung den Best Practices besondere Aufmerksamkeit geschenkt wird.

In unserem umfassenden Leitfaden erfahren Sie mehr darüber, wie Sie sich auf den Einsatz von KI optimal vorbereiten können.

Was ist KI-Governance?

Ein geeignetes Governance-Framework für Anwendungen, die auf Künstlicher Intelligenz basieren, umfasst Praktiken zur korrekten Verwaltung und Überwachung aller KI-Aktivitäten im Unternehmen. Teil dieses Frameworks sollten unter anderem durchgängige Audits und eine vollständige Dokumentation der eingesetzten KI-Modelle sein, sodass nachverfolgt werden kann, wie die KI-Anwendungen trainiert und getestet werden und wie sie sich während ihres gesamten Lebenszyklus verhalten. Eine gute KI-Governance muss auch alle potenziellen Risikoaspekte aufzeigen, die vor der KI-Inbetriebnahme bewertet und validiert werden sollten.

Besonders in stark regulierten Branchen – sowohl im privaten als auch im öffentlichen Sektor – ist eine solide KI-Governance unerlässlich; dazu zählen z. B. das Banken- und Finanzdienstleistungswesen sowie das Versicherungs- und Gesundheitswesen. Alle Unternehmen sollten außerdem ihre KI-Modelle transparent gestalten, um lückenlose Überprüfbarkeit und Dokumentation zu gewährleisten, Strafen zu vermeiden und ihre Fähigkeiten und Kapazitäten zu erweitern.

Welche Techniken werden im Bereich der KI-Governance eingesetzt?

Die KI-Governance konzentriert sich auf geeignete Strategien zur Gewährleistung einer sicheren und effektiven Entwicklung und Einführung von KI-Technologien. Dazu kann Folgendes gehören:

• Transparenz: Damit wird sichergestellt, dass alle KI-Systeme gut dokumentiert werden und transparent sind, damit Nutzer und Interessengruppen wissen, wie Entscheidungen getroffen werden. Die Bereitstellung klarer, gut dokumentierter Ergebnisse ist von entscheidender Bedeutung, insbesondere für komplexe oder stark regulierte Branchen wie das Bankwesen, wo finanzielle Risikoelemente umfassend berücksichtigt werden müssen.
• Regelung von Algorithmen: Ihre Auditmodelle sollten Ihre zugrundeliegenden Datensätze auf Genauigkeit und mögliche Verzerrungen untersuchen.
• EthischesFramework: Die Integration ethischer Richtlinien in Ihre KI-Systeme fördert verantwortungsbewusstes Verhalten und stellt sicher, dass Sie die Vorschriften innerhalb Ihres Unternehmens und alle behördlichen Anforderungen einhalten. Diese ethischen Verhaltensregeln umfassen beispielsweise die Einwilligung von Nutzern nach erfolgter Aufklärung, den Datenschutz, die verantwortungsvolle Erstellung von Inhalten, regelmäßige Audits und die Zusammenarbeit mit allen Interessengruppen. Ethische Praktiken werden Ihrem Unternehmen eine starke und vertrauenswürdige Markenidentität verleihen.
• RechtlichesFramework: Es ist wichtig, die wesentlichen Anforderungen der behördlichen KI-Vorschriften zu verstehen. Legen Sie fest, wie Ihre Governance-Modelle die Einhaltung dieser Vorschriften widerspiegeln sollen. Diese Vorschriften können unter anderem von der US-Bundesregierung oder anderen nationalen Behörden stammen.
• Überprüfbarkeit: Mit regelmäßigen Audits Ihrer KI-Systeme können Sie Risiken, systematische Verzerrungen und potenzielle ethische Probleme rechtzeitig erkennen und bei Bedarf auf Veränderungen flexibel reagieren.
• Datensicherheit: Ein solider Governance-Plan für Unternehmensdaten stellt sicher, dass Ihre KI-Modelle in einer Umgebung mit genauen und ethisch korrekten Daten trainiert werden. Diese Praktiken sollten Sie auch bei der Auswahl Ihrer „großen Sprachmodelle“ (Large Language Models, LLMs) anwenden. Es muss bedacht werden, dass diese Modelle gegebenenfalls öffentlich betrieben werden und sich auf verschiedene Datenquellen stützen.
• Prognosen: Wenn Sie bereits im Vorfeld bestimmte Geschäftsziele sowie die Art und Weise, wie Sie Ihre KI-Systeme einsetzen möchten, festlegen, können Sie mögliche Probleme erkennen, noch bevor sie auftreten und sicherstellen, dass Ihre Modelle Ihre Geschäftsfunktionen kontinuierlich unterstützen.

Welche Probleme können im Zusammenhang mit KI-Governance auftreten?

Ein Unternehmen ohne solide KI-Governance geht jede Menge Risiken ein.

Datenqualität

Maschinelles Lernen (ML) braucht qualitativ hochwertige Daten. Prozesse und Entscheidungen, die anhand von minderwertigen Datensätzen getroffen werden, führen naturgemäß zu schlechten oder ungenauen Ergebnissen. Gute Trainingsdaten und ein gutes Datenmanagement sind für ein sicheres und skalierbares KI-Programm unerlässlich.

Dokumentation

Mit einer guten, lückenlosen Dokumentation können Sie den Aufsichtsbehörden gegenüber demonstrieren, wie Ihr KI-Modell aufgebaut wurde und wie es funktioniert. Ohne diese Dokumentation wird es schwierig, Ihr Modell zu verstehen, nachzuverfolgen, zu skalieren oder zu reproduzieren.

Externe Risiken

Wenn keine ausreichende Governance in Einsatz ist, verschärfen sich die Risiken, die mit feindlichen Systemangriffen, Datenschutzverletzungen und Urheberrechtsverletzungen einhergehen. Dies wiederum gefährdet den Ruf Ihres Unternehmens. Es ist wichtig, die Gefahren einer neuen Technologie ebenso zu verstehen wie die Vorteile.

Auf diese Risiken sollten Sie besonders achten:

• Rassistisch verzerrter KI-Software bei der Gesichtserkennung. Voreingenommenheit kann durch Geschlecht, Alter, Kultur und andere Faktoren bedingt sein und zu diskriminierenden Ergebnissen führen.
• Urheberrechtsverletzungen durch das Trainieren von KI unter Verwendung von urheberrechtlich geschütztem Material.
• Strafen oder Bußgelder aufgrund von Verstößen gegen gesetzliche Vorschriften.

Was ist Governance für KI-Modelle?

Bei der Governance für KI-Modelle geht es um die Kontrolle des Systemzugriffs, die Festlegung und Umsetzung von Richtlinien und um die Leistungskontrolle für Ihr KI-Modell. So führen Sie Rechenschaftspflicht und Transparenz ein.

Die Governance ist entscheidend für eine solide Vertrauensbasis, wenn es um die Nutzung von KI-Technologien geht. Sie stellt sicher, dass KI-Modelle auf verantwortungsvolle und nachvollziehbare Weise entwickelt werden, sodass potenzielle Schäden verhindert und positive KI-Beiträge in verschiedenen Anwendungsbereichen maximiert werden.

Es gibt mehrere strategische Ansätze, die Unternehmen bei der Einführung ihrer KI-Governance anwenden können:

1. Richtlinien zur Entwicklung: Erstellen Sie ein Regelwerk und bewährte Verfahren für die Entwicklung Ihrer KI-Modelle. Definieren Sie akzeptable Datenquellen, Trainingsmethoden und Modellbewertungstechniken und stellen Sie geeignete Methoden zur Vorbereitung von Daten sicher (Feature-Engineering). Beginnen Sie damit, ihren Governance-Ansatz in der Theorie festzulegen und erstellen Sie Ihre eigenen Richtlinien auf der Grundlage von Prognosen und potenziellen Risiken, Vorteilen und Anwendungsfällen.
2. Datenmanagement: Stellen Sie sicher, dass die Trainingsdaten, die auch zur Feinabstimmung Ihres KI-Modells verwendet werden, korrekt sind und den Datenschutz- und behördlichen Anforderungen entsprechen.
3. Entkräftung von Verzerrungen: Beziehen Sie Möglichkeiten zur Erkennung und Beseitigung von Verzerrungen in das KI-Modell ein, um faire und gerechte Ergebnisse für verschiedene demografische Gruppen zu gewährleisten.
4. Transparenz: Die von KI-Modellen getroffenen Entscheidungen müssen belegbar und nachvollziehbar sein, insbesondere in stark regulierten Bereichen wie dem Gesundheitswesen, dem Finanzwesen und dem Rechtswesen.
5. Modellvalidierung und Testphase: Nehmen Sie eine gründliche Validierung vor und testen Sie Ihr KI-Modell gründlich, um sicherzustellen, dass es wie beabsichtigt funktioniert und die vordefinierten Qualitätsmaßstäbe erfüllt
6. Überwachung: Überwachen Sie kontinuierlich die Leistungskennzahlen der eingesetzten KI-Modelle und aktualisieren Sie diese bei Bedarf, um sie an veränderte Anforderungen und Sicherheitsvorschriften anzupassen. Da die generative KI eine brandneue Entwicklung ist, ist es wichtig, einen Validierungsansatz zu verwenden, der den Menschen einbezieht, sodass die KI-Qualität und die Leistungsergebnisse manuell geprüft werden können.
7. Versionskontrolle: Behalten Sie den Überblick über die verschiedenen Versionen Ihrer KI-Modelle, zusammen mit den zugehörigen Trainingsdaten, Konfigurationen und Leistungsmetriken, damit Sie diese bei Bedarf reproduzieren und auch skalieren können.
8. Risikomanagement: Implementieren Sicherheitspraktiken zum Schutz Ihrer KI-Modelle, sodass Sie Cyberattacken, Datenschutzverletzungen und anderen Sicherheitsrisiken gezielt vorbeugen können.
9. Dokumentation: Führen Sie eine detaillierte Dokumentation des gesamten Lebenszyklus des KI-Modells, einschließlich der verwendeten Datenquellen, der durchgeführten Tests, der Trainingsparameter, der Hyperparameter-Einstellungen und der Evaluierungsmetriken.
10. Governance-Aufsichtsgremium: Gründen Sie ein Aufsichtsgremium oder Komitee, das für die Überwachung der Entwicklung und des Einsatzes von KI-Modellen verantwortlich ist und die Einhaltung der auf Ihre Geschäftsziele abgestimmten Richtlinien sicherstellt. Entscheidend ist, dass Sie alle Ebenen der Belegschaft einbeziehen – vom Management bis zu den Mitarbeitenden, die mit KI arbeiten –, um eine umfassende und integrative Zusammenarbeit zu gewährleisten.
11. Regelmäßige Audits: Führen Sie Audits durch, um die Leistung Ihres KI-Modells zu bewerten, die Algorithmen zu regeln und die Einhaltung aller ethischen Grundsätze sicherzustellen.
12. Benutzerfeedback: Ermöglichen Sie Ihren Benutzern und Interessengruppen, Feedback zu Ihrem KI-Modell abzugeben und führen Sie Maßnahmen zur Rechenschaftslegung ein, um angemessen auf Modellfehler oder negative Auswirkungen zu reagieren.
13. Kontinuierliche Verbesserung: Integrieren Sie alle neuen Erkenntnisse in ihren Governance-Prozess, sodass Sie Ihre KI-Entwicklungs- und Einsatzpraktiken kontinuierlich optimieren können.

Während Sie all diese Punkte berücksichtigen sollten, kann es sich auch lohnen, spezielle Governance-Frameworks oder ein spezifisches Regelwerk für Ihr KI-Modell in Betracht zu ziehen, um Best Practices zu gewährleisten.

Best Practices für KI-Governance

Sobald Sie klare ethische und sicherheitstechnische Richtlinien für Ihr KI-Modell festgelegt haben, sollten Sie Folgendes tun:

1. Informieren Sie Ihre Teams. Stellen Sie auf allen Ebenen und in allen Bereichen Ihres Unternehmens sicher, dass alle Beteiligten mit Ihren KI-Richtlinien vertraut sind, einschließlich Ihrer Datenschutz- und Compliance-Regeln. Führen Sie geeignete Rechenschafts- und Aufsichtspflichten ein und legen Sie die Rollen und Verantwortlichkeiten Ihrer Mitarbeitenden fest, damit nichts übersehen wird. Stellen Sie sicher, dass jeder Ihre gewünschten Geschäftsergebnisse versteht und dass Ihre Teams und Ihr Projekt stets auf diese Ziele ausgerichtet sind und bleiben.
2. Identifizieren Sie Ihre Anwendungsfälle. Legen Sie fest, wo und wie Sie KI in Ihren Systemen einsetzen möchten und welchen Unternehmenszielen dies dienen soll. Berücksichtigen Sie dabei alle potenziellen Risiken und Probleme.
3. Beziehen Sie stets die menschliche Komponente ein. Nehmen Sie umfassende Schulungs- und Trainingsmaßnahmen in Ihre Governance-Strukturen auf. Diese sollten sich auf Ihre Mitarbeitenden und auf Ihre Digital Workforce gleichermaßen beziehen. Stellen Sie eine klare Dokumentation und Kontrolle sicher, um zu gewährleisten, dass alles reibungslos abläuft.
4. Bleiben Sie anpassungsfähig. Veränderungen auf dem Markt, neue Vorschriften, Kundenerwartungen und sich entwickelnde Technologien werden sich kontinuierlich auf Ihre KI-Aktivitäten auswirken. Holen Sie regelmäßig Feedback von Mitarbeitenden und Kunden ein und überwachen Sie Ihre KI im Hinblick auf Qualität, Vertraulichkeit, Datenschutz und Effizienz.

Wer ist für die KI-Governance verantwortlich?

Die KI-Governance liegt in der Verantwortung aller Mitarbeitenden eines Unternehmens. Ein kohärentes und einheitliches Regelwerk gewährleistet die Einhaltung gesetzlicher Auflagen, Sicherheit und die Übereinstimmung mit den Werten Ihres Unternehmens. Letztendlich gibt aber die Führungsebene das Leitmotiv für die KI-Governance vor.

Wer reguliert KI?

Um eine geeignete Governance für KI-Modelle zu etablieren und aufrechtzuerhalten gibt es verschiedene Möglichkeiten:

• Top-down-Ansatz: Eine wirksame Governance erfordert die Unterstützung durch die Geschäftsleitung, wenn es darum geht, Datenqualität und Datenmanagement sowie Sicherheitsaspekte kontinuierlich zu optimieren. Die Führungsebene sollte für eine angemessene KI-Governance und die Zuweisung von Verantwortungsbereichen sorgen, und ein Prüfungsausschuss sollte die Datenkontrolle übernehmen. Sie können auch einen Chief Data Officer ernennen, der über technisches Fachwissen verfügt und für Governance und Datenqualität sorgen kann.
• Bottom-up-Ansatz: Einzelne Teams können die Verantwortung für die Datensicherheit, die Modellierung und die von ihnen verwalteten Aufgaben übernehmen, um Standardisierung und in weiterer Folge Skalierbarkeit zu ermöglichen.
• Modellierung: Mit einem effektiven Governance-Modell wird für kontinuierliche Kontrolle und Aktualisierung gesorgt, sodass sichergestellt werden kann, dass die Systemleistung stets mit den Gesamtzielen der Organisation übereinstimmt. Bei der Zugangskontrolle sollte die Sicherheit oberste Priorität haben.
• Transparenz: Die Nachverfolgung der Leistung Ihrer KI ist ebenfalls ein wichtiger Punkt. Sie stellt Transparenz gegenüber Interessengruppen und Kunden sicher und stellt einen wesentlichen Bestandteil des Risikomanagements dar. Hier können (und sollten) Mitarbeitende aus dem gesamten Unternehmen einbezogen werden.

Wichtigste Erkenntnisse zum Thema KI-Governance

Gut durchdachte Governance-Strategien sind angesichts der kontinuierlichen Weiterentwicklung im Bereich der Künstlichen Intelligenz unerlässlich. Vergewissern Sie sich, dass Ihr Unternehmen die rechtlichen Anforderungen kennt, denen die Technologien des Maschinellen Lernens unterliegen. Richten Sie Sicherheits- und Governance-Regelwerke ein, damit Ihre Daten sicher, korrekt und konform sind.