KI verantwortungsvoll nutzen

26.01.22 | Transparenz, Digitalkompetenz und Datensouveränität sind für eine verantwortungsvolle Nutzung von künstlicher Intelligenz, insbesondere im Arbeitskontext und speziell im Personalwesen, entscheidend. So könnte das Fazit des Kick-offs zur Online-Impulsreihe „Digitale Ethik“ des Demographie Netzwerkes und des Ethikbeirats HR Tech lauten. Michael H. Kramarsch, Gründer und CEO der Unternehmensberatung hkp/// group sowie Initiator des Ethikbeirats, sprach mit MdB Tobias Bacherle (Bündnis 90/Die Grünen), Obmann im Bundestagsausschuss für Digitales, über die ethischen Herausforderungen, die KI-Anwendungen insbesondere bei der Nutzung in der Personalarbeit mit sich bringen. Das Ergebnis: Spannende Perspektiven aus der Unternehmenspraxis und aus den Debatten und Initiativen der Politik.

KI muss anwendungsorientiert diskutiert werden

Die Navigation im Auto ist etwas anderes als die Erfassung von Wechselabsichten bei Mitarbeitenden oder ihrer Tagesform durch Videoanalyse, illustrierte Michael H. Kramarsch gleich zu Beginn und schlussfolgerte:

„Digitalisierung und ihre Folgen muss immer am konkreten Anwendungsfall diskutiert werden.“

Es dürfe nicht sein, dass die Subjektqualität von Mitarbeitenden verletzt werde, indem Daten ausgelesen werden, die sich ihrer willentlichen Steuerung entziehen. Zudem sei es bedenklich, wenn die Ergebnisse von undurchsichtigen Anwendungen Referenzpunkte für Personalentscheidungen schaffen. Aus diesem Grund sei der Ethikbeirat HR Tech gegründet worden – ein Gremium von Verantwortlichen aus Wissenschaft, Wirtschaft und Gewerkschaften mit hoher Expertise in Bereichen wie Verhaltensökonomie, Personalmanagement, Psychologie, Wirtschaftsethik und Recht.

Gemeinsam veröffentlichten die Mitglieder des Ethikbeirates nach ausgiebiger öffentlicher Konsultation zehn Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit. Ziel der Richtlinien sowie der Arbeit des Ethikbeirates sei es, Personalverantwortlichen konkrete Hilfestellung und Orientierung zu bieten, wenn es um den Einsatz neuer Technologien geht, der langsam zunehme. Hier fehle es derzeit in Personalabteilungen und auf Mitbestimmungsseite noch an Kompetenz:

„Es gibt eine hohe Verunsicherung auf der Unternehmens- sowie der Betriebsratsseite, weil die Themen Datenanalyse und Datenethik bisher nicht Bestandteil der Ausbildung waren.“

Michael H. Kramarsch
Gründer und CEO der Unternehmensberatung hkp/// group
Initiator des Ethikbeirats

Wunsch nach mehr Sicherheit bei der Anwendung digitaler Technologien ist groß

Umfrageergebnisse, die der Ethikbeirat in einer gemeinsamen Studie mit dem Bundesverband der Personalmanager (BPM) generierte, legen jedoch nahe, dass die Nutzung von KI-Anwendungen im Personalwesen noch weit weniger fortgeschritten sei als gedacht. Fast ein Drittel der HR-Abteilungen hätten digitale Technologien implementiert, pilotiert oder planen deren Einsatz, erklärt Kramarsch. Dabei handele es sich in den meisten Fällen um Recruiting-Anwendungen, um die Optimierung von Stellenanzeigen, die Analyse von Lebensläufen oder die Integration von Chatbots.

Insgesamt gebe es der Studie zufolge einen großen Wunsch nach mehr Sicherheit und Verbindlichkeit bei der Anwendung digitaler Technologien. Bestehende Rahmenwerke seien jedoch fast der Hälfte der Personalerinnen und Personaler unbekannt, was als Ausdruck mangelnder Digitalkompetenz gewertet werden könne. Die bekanntesten Leitlinien in diesem Feld seien das Weißbuch der Europäischen Kommission zu KI, die KI-Strategie der Bundesregierung und die Richtlinien für den verantwortungsvollen Einsatz von KI und weiteren digitalen Technologien in der Personalarbeit des Ethikbeirats HR-Tech. Explizit abgefragt, seien diese in der Studie auch in der Strenge als angemessen bewertet worden. Sie würden damit eine gute Grundlage für die Entwicklung handlungsleitender unternehmenseigener Richtlinien darstellen, die drei Viertel der Befragten als erforderlich erachten. Derartige selbstregulierende Maßnahmen seien gegenüber gesetzlichen Vorgaben von den allermeisten Teilnehmenden befürwortet worden.

Hierfür brauche es, so Kramarsch, dringend umfassende Maßnahmen in Wirtschaft und Politik, um die Digitalkompetenz zu stärken und für ethische Herausforderungen zu sensibilisieren, denn „die Digitalisierung ist weniger eine technische Revolution als eine kulturelle und soziale.“ Gleichzeitig stehe die europäische Politik vor der großen Herausforderung, internationale Datenschutz-Maßnahmen zu verhandeln, ohne dabei globale Datenströme, die für eine funktionale Wirtschaftswelt essentiell sind, komplett zu blockieren.

Transparenz und Datensouveränität sind essenziell

Auch Digitalpolitiker Tobias Bacherle unterstrich die Bedeutung der Datensouveränität von Nutzerinnen und Nutzern, die auch mit der in den Richtlinien des Ethikbeirats geforderten Zweckbindung einhergehen müsse:

„Wenn wir eine radikale Datensouveränität für das Individuum wollen, sodass man immer bestimmen kann, wo persönliche Daten genutzt werden, dann muss man auch gewährleisten, dass die Daten auch wirklich nur einem bestimmten Zweck zur Verfügung gestellt werden.“

MdB Tobias Bacherle
Bündnis 90/Die Grünen

Dafür brauche es Bacherle zufolge ein hohes Maß an Transparenz, sodass Beschäftigte darüber in Kenntnis gesetzt werden, welche Daten auf welche Weise genutzt werden. Umgesetzt werden könnte die Zweckbindung in Form von „Dataspaces“, die die Informationen sowie ihre Verarbeitung in klar abgrenzbare Verwendungszwecke trennen. Auch die Güte der Daten müsse überprüfbar sein. Denn „KI ist dem Menschen nicht überlegen, sondern macht dieselben Fehler wie eine Person, die sie programmiert hat – nur systematischer und schneller“, so Bacherle.

Er befürwortete dabei einerseits Maßnahmen zur Selbstregulierung, machte aber auch deutlich, dass die Politik die Aufgabe habe, den übergeordnet Rahmen zu setzen. So könne er sich beispielsweise in Zukunft ein Institut vorstellen, das die Qualität von Daten prüft, diese transparent aufbereitet und zur Verfügung stellt. Politische und wirtschaftliche Initiativen müssten für die Gewährleistung eines verantwortungsvollen Einsatzes digitaler Technologien jedoch letztlich ineinandergreifen:

„Wir können es uns nicht leisten und auch gar nicht bewerkstelligen, ständig hinter großen Technologien hinterherzuregulieren. Deshalb brauchen wir Innovationstreiber, die Produkte mit einem europäischen Wertkontext mitentwickeln.“

Künstliche Intelligenz: Potenziale durch Kompetenzerwerb heben

Künstliche Intelligenz sei per se nicht problematisch und könne zukünftig enorme wirtschaftliche Potenziale heben und Effizienzgewinne erzielen, was angesichts von Fachkräftemangel und demographischem Wandel enorm wichtig für den Wirtschaftsstandort Deutschland sei. Blicke man heute allerdings beispielsweise auf die öffentliche Verwaltung und KMUs, wären hier immer noch durch weit simplere digitale Anwendungen Optimierungsmöglichkeiten vorhanden, stellte Bacherle fest.

Dennoch: Um die Möglichkeiten von KI zukünftig verantwortungsvoll nutzen zu können, müssten Nutzerinnen und Nutzer in der Lage sein, die ganze Tragweite ihres Einsatzes nachvollziehen zu können und ein System im Einzelfall zumindest grundsätzlich verstehen und beurteilen zu können. Hierfür brauche es auf allen Ebenen der Bildungsarbeit und des Kompetenzerwerbs umfassende Reformen und Investitionen von Politik und Wirtschaft – hier waren sich beide Gesprächspartner am Ende der ersten Ausgabe der Impulsreihe „Digitale Ethik“ einig.

Webimpuls – Digitale Ethik

Webimpuls – Digitale Ethik

Wie verändern digitale Technologien Arbeit? Und ist ihr Einsatz auch immer ethisch vertretbar? In Kooperation mit dem Ethikbeirat HR Tech richtet das Demographie Netzwerk die Impulsreihe „Digitale Ethik“ im Jahr 2022 aus. Die Veranstaltung richtet sich an die Mitglieder des Demographie Netzwerkes.

Mehr erfahren Pfeil Piktogram