Ist die KI fair? Biases in KI-Systemen und wie man damit umgeht

Während KI-Modelle in immer mehr Feldern und für immer mehr Aufgaben eingesetzt werden, fehlt trotzdem oft noch ein grundlegendes Verständnis dafür, wie sie arbeiten. Als datengetriebene Systeme ist gerade die Datengrundlage extrem wichtig, und besonders bei LLMs haben wir auf diese praktisch keinen Einfluss. Entsprechend sind viele Modelle von Haus aus verzerrt und nicht wirklich neutral oder fair.

Wir besprechen, woher diese Verzerrungen kommen, wie sie sich auswirken können und was man dagegen tun kann.

• Fairness muss bei KI-Systemen von Beginn an mitgedacht werden
• Je nach KI-System nehmen Datenanalyse oder Prompting die Fairness von Anfang an in den Fokus
• Ein diverses Team und der Austausch mit anderen Personengruppen helfen dabei besonders