KI reflektieren: Ethik & Bias

Ethik im Kontext Künstlicher Intelligenz bedeutet, KI-Systeme so zu entwickeln und einzusetzen, dass sie Menschenrechte, Transparenz, Verantwortung und gesellschaftliche Werte respektieren. Dabei geht es nicht nur darum, was technisch möglich ist, sondern auch darum, welche Auswirkungen der Einsatz von KI für einzelne Personen und Gruppen haben kann. Ethische KI erfordert klare Verantwortlichkeiten, nachvollziehbare Entscheidungen, Datenschutz sowie eine kritische Prüfung möglicher Risiken. Ziel ist es, KI so zu nutzen, dass sie Menschen unterstützt, statt sie zu benachteiligen oder Kontrolle und Verantwortung an undurchsichtige Systeme abzugeben.

Typische Leitfragen sind zum Beispiel:

• Wofür wird die KI eingesetzt und ist dieser Zweck gesellschaftlich sinnvoll?
• Wer trägt die Verantwortung, wenn ein KI-System falsche oder schädliche Entscheidungen trifft?
• Welche Daten werden verwendet und wurden sie rechtmäßig, sicher und sparsam erhoben?
• Können Nutzer*innen nachvollziehen, dass KI eingesetzt wurde?
• Werden bestimmte Personen oder Gruppen benachteiligt und werden Ungleichheiten oder Ungerechtigkeiten verstärkt?
• Bleibt der Mensch in wichtigen Entscheidungen handlungsfähig und verantwortlich?
• Steht der Nutzen von KI im Verhältnis zu Kosten, Ressourcenverbrauch (Wasser, Strom etc.) und möglichen Nebenwirkungen?

Bias von KI

KI-Systeme können in Forschung, Lehre, Studium und Verwaltung unterstützen. Wie sie funktionieren, hängt von vielen Faktoren ab. Einige davon können zu Fehlern oder Ungerechtigkeiten führen. Wir nennen das Bias – also Verzerrungen oder Vorurteile. Deshalb sollten KI-Systeme kritisch hinterfragt werden und Inhalte nicht ungeprüft übernommen werden.

Was meint Bias?

Bias meint die systematischen Verzerrungen in Daten, die auch Vorurteile oder gesellschaftliche Strukturen widerspiegeln können. Wenn ein KI-Programm falschen oder ungerechten Output liefert, weil sie bestimmte Menschen oder Gruppen benachteiligt, kann ein Bias vorliegen. Das passiert etwa, weil die KI-Systeme aus Daten lernen, die nicht ausgewogen sind. Zum Beispiel können in den Daten überproportional Männer in einer Datenbank vorkommen oder bestimmte Sprachmuster überrepräsentiert sind.

Beispiele: 

Ein KI-Programm zur Literaturrecherche, das Literatur von anglo-amerikanischen Autor*innen bevorzugt präsentiert.

Die Erstellung von KI-generierten Personaes für Marketingzwecke produziert Bilder von Personen, die dem westlichen Schönheitsideal entsprechen, weil die KI gelernt hat, dass Menschen diesem einem Schönheitsideal entsprechen sollen.

Wichtig:

KI ist nicht automatisch ‚neutral‘ oder ‚objektiv‘. Sie spiegelt wider, was sie gelernt hat – und das kann fehlerhaft sein.

Verantwortungsvoller Umgang mit KI

KI-Inhalte dürfen nicht einfach ‚abgeschrieben‘ werden. Wissenschaftliches Arbeiten setzt voraus, dass Inhalte verstanden, geprüft und verantwortet werden. Zum Beispiel: Ein Studierender nutzt KI, um eine Zusammenfassung zu schreiben – aber er überprüft sie nicht und gibt sie ab. Das ist plagiatähnlich. Inhalte und deren Herleitung sollten nachvollziehbar sein und der Einsatz von KI transparent bleiben. Die bloße Wiedergabe von KI-Inhalten oder generierten Texten führt zu einem erhöhten Risiko, Prüfungen nicht zu bestehen.

Empfehlungen:

• vielfältige und repräsentative bzw. begründete Daten nutzen
• prüfen, woher die Daten kommen
• strategisch Literatur recherchieren, die nicht dem Mainstream entspricht
• gezielt prompten, um Biase sichtbar zu machen
• KI und deren Inhalte kritisch und reflektiert nutzen, nicht einfach nur kopieren
• KI-Einsatz und Entscheidungen bei der Datenauswahl dokumentieren (s. ggf. Leitfaden und Dokumentationsvorlage vom Institut)

Bias in KI-generierten Lehrmaterialien (Text und Bild)

KI kann Texte, Aufgaben oder Beispiele erstellen – aber dabei können stereotype Darstellungen verwendet werden, zum Beispiel nur Männer, um Ingenieur*innen darzustellen. Eine Ursache dafür kann im KI-Prompt liegen.

Der Prompt zur Generierung von Material kann unbewusst Vorurteile enthalten. Zum Beispiel: „Erstelle eine Zusammenfassung über Frauen in der Wissenschaft“. KI könnte sich hier auf „Frauen in der Wissenschaft“ als „Minderheit“ konzentrieren, anstatt sie als gleichberechtigte Akteure darzustellen. Solche Verzerrungen spiegeln sich auch in Materialien wider: Ein KI-Tool erstellt eine Aufgabe über „Energiegewinnung“ mit Bildern von Männern in Laboren – ohne weibliche oder diverse Darstellungen.

Chancengleichheit und Teilhabe

KI-Systeme können Lernprozesse unterstützen. Sie setzen allerdings unterschiedliche technische, sprachliche und digitale Kompetenzen bei Lehrenden und Lernenden voraus. Um Chancengleichheit unter den Lernenden zu sichern, sollten die Voraussetzungen der Studierenden berücksichtigt werden. Eine angepasste Gestaltung von Lern- und Lernprozessen kann zur Chancengleichheit und zur Förderung von KI-Kompetenzen beitragen.

Datenschutz für sensible Daten

Der Einsatz von KI erfordert einen sorgfältigen Einsatz mit personenbezogen Daten. Informationen über Studierende wie Namen, Leistungsangaben, Matrikelnummern oder andere personenbezogene Angaben, dürfen nicht in KI-Systeme eingegeben werden. Hier besteht das Risiko die informationelle Selbstbestimmung und den Schutz der Privatsphäre zu durchbrechen. Die eingegebenen Daten könnten ungewollt gespeichert und zu anderen Zwecken durch das System weiterverarbeitet werden. Das ist nicht immer ersichtlich für die Nutzer*innen. Daher sollte besondere Vorsicht bestehen. 

Empfehlungen:

• biassensibel Prompten
• KI-Texte kritisch prüfen
• diverse Beispiele und inklusive Sprache nutzen
• unterschiedliche Voraussetzungen der Studierenden berücksichtigen
• Datenschutz und Vertraulichkeit berücksichtigen
• beim Generieren von Bildern mit Hilfe von KI stereotype Darstellungen vermeiden. Speziell für die visuelle Darstellung von KI empfiehlt sich dieser Leitfaden:

Distorted data and prompts

AI learns from data. If the data being used is not sufficiently diverse – for example, if it comes from only one country, one age group, or one gender – the AI may draw incorrect conclusions. An AI model for medical diagnosis that has been mainly fed with data concerning white men tends to perform less accurately for women or people of other ethnicities.

AI responds to research questions. If researchers ask a question that is shaped by their own biases, this can influence the AI – and lead to distorted results. For example: A study that targets only students with an ‘interest in technology’ ignores other perspectives.

Copyright 

AI models are often trained using millions of texts, images or videos – often without the consent of the authors. This may pose legal problems and ethical issues. For example, an AI programme that writes academic texts may be based on works that have not been released for use by the general public.

Mainstreaming in literature research

When conducting literature research with AI, English-language and Western literature tends to dominate. Moreover, dominant studies, models, theories, and researchers are often given preferential treatment. When conducting a literature search, you might therefore only be presented with open-access publications from the Anglo-American world.

Recommendations:

• Use diverse, representative or justified data
• Check where the data comes from
• Document decisions made during data selection
• Strategically research literature that does not conform to mainstream concepts
• Prompt in a targeted manner to reveal bias

Sensible und personenbezogene Daten

In der Verwaltung können KI-Systeme in der Analyse von Daten, der Erstellung von Textentwürfen oder Strukturierung von Informationen unterstützen. Sensible und personenbezogene Daten, etwa von Studierenden oder (zukünftigen) Mitarbeitenden, unterliegen besonderer Aufsicht. Ihre Verarbeitung gilt es besonders zu überprüfen. Über die Verarbeitung in speziellen Systemen ist daher zu informieren. Die Entscheidung in den Verwaltungsprozessen verbleibt bei der Verwaltung. 

Bias in der Kommunikation

Ein Problem bei der Generierung von Texten mit KI ist, dass KI-generierte E-Mails oder Chatbots bestimmte Gruppen nicht verständlich ansprechen können – z.B. durch formelle Sprache oder technische Begriffe.

In der Marketingkommunikation oder Webseitengestaltung werden häufig KI-generierte Bilder genutzt. Diese Visualisierungen orientieren sich an bestimmten Gruppen und fördern so subtil Stereotype.

Beispiel: Ein Institut wirbt auf seiner Webseite mit KI-generierten Bildern. Alle dargestellten Personen entsprechen dem gängigen westlich geprägten Schönheitsideal.

Empfehlungen:

• falls KI genutzt wird, müssen alle beteiligten Personen darüber informiert werden
• Datenschutz gewährleisten
• Entscheidungen nicht der KI überlassen, Verantwortung verbleibt bei der Verwaltung
• beim Generieren von Bildern mit Hilfe von KI stereotype Darstellungen vermeiden. Speziell für die visuelle Darstellung mit KI empfiehlt sich dieser Leitfaden rechts.