Dieses Webinar ist Teil der 10. St.Galler Diversity & Inclusion Week 2026:

KI mit Vorurteilen: Einblicke in das Projekt BIAS

KI kann gesellschaftliche Vorurteile nicht nur widerspiegeln, sondern auch verstärken, mit weitreichenden Folgen für ihren Einsatz. Das Horizon-Europe-Projekt BIAS untersucht, wie solche Verzerrungen in HR-Anwendungen und Sprachmodellen erkannt und reduziert werden können.

Die Forschung hat gezeigt, dass die Vorurteile unserer Gesellschaft auch in KI Modellen reflektiert werden können, oder sogar durch sie verstärkt werden können. Das bringt Risiken bei der Anwendung solcher Systeme.

Das im Rahmen des Forschungsprogramms Horizon Europe geförderte Projekt BIAS untersucht, wie dies bei KI Anwendungen im Bereich HR und bei gängigen Sprachmodellen der Fall ist. Dabei geht es einerseits darum, wie dieser Bias erkannt werden kann, und andererseits, wie er reduziert werden kann, oder wie damit umgegangen werden kann.

Das Projekt konzentriert sich auf Anwendungen in verschiedenen europäischen Sprachen und ist interdisziplinär, mit einer technischen, einer sozialwissenschaftlichen und einer rechtlichen Perspektive.