KI reflektieren: Ethik & Bias

Ethik im Kontext Künstlicher Intelligenz bedeutet, KI-Systeme so zu entwickeln und einzusetzen, dass sie Menschenrechte, Transparenz, Verantwortung und gesellschaftliche Werte respektieren. Dabei geht es nicht nur darum, was technisch möglich ist, sondern auch darum, welche Auswirkungen der Einsatz von KI für einzelne Personen und Gruppen haben kann. Ethische KI erfordert klare Verantwortlichkeiten, nachvollziehbare Entscheidungen, Datenschutz sowie eine kritische Prüfung möglicher Risiken. Ziel ist es, KI so zu nutzen, dass sie Menschen unterstützt, statt sie zu benachteiligen oder Kontrolle und Verantwortung an undurchsichtige Systeme abzugeben.

Typische Leitfragen sind zum Beispiel:

• Wofür wird die KI eingesetzt und ist dieser Zweck gesellschaftlich sinnvoll?
• Wer trägt die Verantwortung, wenn ein KI-System falsche oder schädliche Entscheidungen trifft?
• Welche Daten werden verwendet und wurden sie rechtmäßig, sicher und sparsam erhoben?
• Können Nutzer*innen nachvollziehen, dass KI eingesetzt wurde?
• Werden bestimmte Personen oder Gruppen benachteiligt und werden Ungleichheiten oder Ungerechtigkeiten verstärkt?
• Bleibt der Mensch in wichtigen Entscheidungen handlungsfähig und verantwortlich?
• Steht der Nutzen von KI im Verhältnis zu Kosten, Ressourcenverbrauch (Wasser, Strom etc.) und möglichen Nebenwirkungen?

Bias von KI

KI-Systeme können in Forschung, Lehre, Studium und Verwaltung unterstützen. Wie sie funktionieren, hängt von vielen Faktoren ab. Einige davon können zu Fehlern oder Ungerechtigkeiten führen. Wir nennen das Bias – also Verzerrungen oder Vorurteile. Deshalb sollten KI-Systeme kritisch hinterfragt werden und Inhalte nicht ungeprüft übernommen werden.

Was meint Bias?

Bias meint die systematischen Verzerrungen in Daten, die auch Vorurteile oder gesellschaftliche Strukturen widerspiegeln können. Wenn ein KI-Programm falschen oder ungerechten Output liefert, weil sie bestimmte Menschen oder Gruppen benachteiligt, kann ein Bias vorliegen. Das passiert etwa, weil die KI-Systeme aus Daten lernen, die nicht ausgewogen sind. Zum Beispiel können in den Daten überproportional Männer in einer Datenbank vorkommen oder bestimmte Sprachmuster überrepräsentiert sind.

Beispiele: 

Ein KI-Programm zur Literaturrecherche, das Literatur von anglo-amerikanischen Autor*innen bevorzugt präsentiert.

Die Erstellung von KI-generierten Personaes für Marketingzwecke produziert Bilder von Personen, die dem westlichen Schönheitsideal entsprechen, weil die KI gelernt hat, dass Menschen diesem einem Schönheitsideal entsprechen sollen.

Wichtig:

KI ist nicht automatisch ‚neutral‘ oder ‚objektiv‘. Sie spiegelt wider, was sie gelernt hat – und das kann fehlerhaft sein.

Verantwortungsvoller Umgang mit KI

KI-Inhalte dürfen nicht einfach ‚abgeschrieben‘ werden. Wissenschaftliches Arbeiten setzt voraus, dass Inhalte verstanden, geprüft und verantwortet werden. Zum Beispiel: Ein Studierender nutzt KI, um eine Zusammenfassung zu schreiben – aber er überprüft sie nicht und gibt sie ab. Das ist plagiatähnlich. Inhalte und deren Herleitung sollten nachvollziehbar sein und der Einsatz von KI transparent bleiben. Die bloße Wiedergabe von KI-Inhalten oder generierten Texten führt zu einem erhöhten Risiko, Prüfungen nicht zu bestehen.

Empfehlungen:

• vielfältige und repräsentative bzw. begründete Daten nutzen
• prüfen, woher die Daten kommen
• strategisch Literatur recherchieren, die nicht dem Mainstream entspricht
• gezielt prompten, um Biase sichtbar zu machen
• KI und deren Inhalte kritisch und reflektiert nutzen, nicht einfach nur kopieren
• KI-Einsatz und Entscheidungen bei der Datenauswahl dokumentieren (s. ggf. Leitfaden und Dokumentationsvorlage vom Institut)

Bias in KI-generierten Lehrmaterialien (Text und Bild)

KI kann Texte, Aufgaben oder Beispiele erstellen – aber dabei können stereotype Darstellungen verwendet werden, zum Beispiel nur Männer, um Ingenieur*innen darzustellen. Eine Ursache dafür kann im KI-Prompt liegen.

Der Prompt zur Generierung von Material kann unbewusst Vorurteile enthalten. Zum Beispiel: „Erstelle eine Zusammenfassung über Frauen in der Wissenschaft“. KI könnte sich hier auf „Frauen in der Wissenschaft“ als „Minderheit“ konzentrieren, anstatt sie als gleichberechtigte Akteure darzustellen. Solche Verzerrungen spiegeln sich auch in Materialien wider: Ein KI-Tool erstellt eine Aufgabe über „Energiegewinnung“ mit Bildern von Männern in Laboren – ohne weibliche oder diverse Darstellungen.

Chancengleichheit und Teilhabe

KI-Systeme können Lernprozesse unterstützen. Sie setzen allerdings unterschiedliche technische, sprachliche und digitale Kompetenzen bei Lehrenden und Lernenden voraus. Um Chancengleichheit unter den Lernenden zu sichern, sollten die Voraussetzungen der Studierenden berücksichtigt werden. Eine angepasste Gestaltung von Lern- und Lernprozessen kann zur Chancengleichheit und zur Förderung von KI-Kompetenzen beitragen.

Datenschutz für sensible Daten

Der Einsatz von KI erfordert einen sorgfältigen Einsatz mit personenbezogen Daten. Informationen über Studierende wie Namen, Leistungsangaben, Matrikelnummern oder andere personenbezogene Angaben, dürfen nicht in KI-Systeme eingegeben werden. Hier besteht das Risiko die informationelle Selbstbestimmung und den Schutz der Privatsphäre zu durchbrechen. Die eingegebenen Daten könnten ungewollt gespeichert und zu anderen Zwecken durch das System weiterverarbeitet werden. Das ist nicht immer ersichtlich für die Nutzer*innen. Daher sollte besondere Vorsicht bestehen. 

Empfehlungen:

• biassensibel Prompten
• KI-Texte kritisch prüfen
• diverse Beispiele und inklusive Sprache nutzen
• unterschiedliche Voraussetzungen der Studierenden berücksichtigen
• Datenschutz und Vertraulichkeit berücksichtigen
• beim Generieren von Bildern mit Hilfe von KI stereotype Darstellungen vermeiden. Speziell für die visuelle Darstellung von KI empfiehlt sich dieser Leitfaden:

Verzerrte Daten und Prompts

KI lernt aus Daten. Wenn die Daten nicht ausreichend vielfältig sind, zum Beispiel nur aus einem Land, einer Altersgruppe oder einem Geschlecht, kann die KI falsche Schlussfolgerungen ziehen. Ein KI-Modell zur Gesundheitsdiagnose, das hauptsächlich Daten von weißen Männern verwendet, funktionieren so schlechter bei Frauen oder Menschen mit anderen Hautfarben.

KI reagiert auf Forschungsfragen. Wenn Forschende eine Frage stellen, die von eigenen Vorurteilen geprägt ist, kann das die KI beeinflussen – und zu verzerrten Ergebnissen führen. Zum Beispiel: Eine Studie, die nur „technisch interessierte“ Studierende als Zielgruppe sieht, ignoriert andere Perspektiven.

Urheberrecht 

KI-Modelle werden oft mit Millionen von Texten, Bildern oder Videos trainiert – oft ohne Zustimmung der Urheber*innen. Das kann rechtliche Probleme und ethische Fragen aufwerfen. Ein KI-Programm zum Beispiel, das wissenschaftliche Texte schreibt, basiert möglicherweise auf Werken, die nicht urheberrechtlich freigegeben sind.

Mainstreaming bei der Literaturrecherche

Bei der Literaturrecherche mit KI dominiert zumeist englischsprachige und westlich geprägte Literatur. Zudem werden häufig dominante Studien, Modelle, Theorien und Forschende bevorzugt präsentiert. So könnte es vorkommen, dass bei der Literaturrecherche lediglich Publikationen aus dem angloamerikanischen Raum, die open access zugänglich sind, präsentiert werden.

Empfehlungen:

• vielfältige und repräsentative bzw. begründete Daten nutzen
• prüfen, woher die Daten kommen
• Entscheidungen bei der Datenauswahl dokumentieren
• strategisch Literatur recherchieren, die nicht dem Mainstream entspricht
• gezielt prompten, um Biase sichtbar zu machen

Sensible und personenbezogene Daten

In der Verwaltung können KI-Systeme in der Analyse von Daten, der Erstellung von Textentwürfen oder Strukturierung von Informationen unterstützen. Sensible und personenbezogene Daten, etwa von Studierenden oder (zukünftigen) Mitarbeitenden, unterliegen besonderer Aufsicht. Ihre Verarbeitung gilt es besonders zu überprüfen. Über die Verarbeitung in speziellen Systemen ist daher zu informieren. Die Entscheidung in den Verwaltungsprozessen verbleibt bei der Verwaltung. 

Bias in der Kommunikation

Ein Problem bei der Generierung von Texten mit KI ist, dass KI-generierte E-Mails oder Chatbots bestimmte Gruppen nicht verständlich ansprechen können – z.B. durch formelle Sprache oder technische Begriffe.

In der Marketingkommunikation oder Webseitengestaltung werden häufig KI-generierte Bilder genutzt. Diese Visualisierungen orientieren sich an bestimmten Gruppen und fördern so subtil Stereotype.

Beispiel: Ein Institut wirbt auf seiner Webseite mit KI-generierten Bildern. Alle dargestellten Personen entsprechen dem gängigen westlich geprägten Schönheitsideal.

Empfehlungen:

• falls KI genutzt wird, müssen alle beteiligten Personen darüber informiert werden
• Datenschutz gewährleisten
• Entscheidungen nicht der KI überlassen, Verantwortung verbleibt bei der Verwaltung
• beim Generieren von Bildern mit Hilfe von KI stereotype Darstellungen vermeiden. Speziell für die visuelle Darstellung mit KI empfiehlt sich dieser Leitfaden rechts.