Was rechtlich zulässig ist und was nicht

Künstliche Intelligenz im Recruiting-Prozess

13.04.2018
Von  und Klaus Thönißen  
Christian Kuss ist Rechtsanwalt der Luther Rechtsanwaltsgesellschaft mbH in Köln. Sein Tätigkeitsschwerpunkt liegt auf IT- und Datenschutzrecht.
Künstliche Intelligenz kann im Bewerbungsprozess die Talente und Fähigkeiten der Bewerber testen, bewerten und passende Kandidaten auswählen. Doch in welchem Umfang ist deren Einsatz im Bewerbungsverfahren rechtlich zulässig?

Die Entwicklung der KI schreitet in großen Schritten voran. Computer übernehmen immer mehr Tätigkeiten, die früher nur von Menschen ausgeführt werden konnten. Dabei nehmen sie auch eine immer aktivere Rolle in der Kommunikation ein. Mittlerweile hat sich die Künstliche Intelligenz der Maschinen derart entwickelt, dass es für einen Menschen schwer möglich ist, zu unterscheiden, ob er mit einem Chatbot oder einem echten Menschen interagiert.

Ein Mann im Bewerbungsgespräch. Setzt der Arbeitgeber künstliche Intelligenz ein, muss er rechtliche Vorgaben berücksichtigen.
Ein Mann im Bewerbungsgespräch. Setzt der Arbeitgeber künstliche Intelligenz ein, muss er rechtliche Vorgaben berücksichtigen.
Foto: Pressmaster - shutterstock.com

Dies belegt auch der nach Alan Turing benannte Turing-Test, durch den ermittelt werden soll, ob ein Computer ein dem Menschen vergleichbares Denkvermögen hat. Dieser Test wird in jüngster Zeit von immer mehr Maschinen bestanden. Deshalb ist es kaum verwunderlich, dass selbstlernende Programme immer stärker unser Leben durchdringen.

Künstliche Intelligenz lässt sich im Bewerbungsverfahren sinnvoll einsetzen. Intelligente Maschinen können

  • Eingangsinterviews führen,

  • Lebensläufe bewerten und

  • mit Hilfe von Big Data-Analysen gute Prognosen über die Eignung eines Kandidaten treffen.

Zwar wird dem von künstlicher Intelligenz gesteuerten Computer in diesen Szenarien bislang keine abschließende Berechtigung zugesprochen, über die Einstellung zu entscheiden. Doch soll der Computer erste Bewerbungsgespräche führen, um auf Grundlage der gesammelten Daten geeignete Bewerber vorauszuwählen. Der Bewerbungsprozess wird sodann durch einen Menschen fortgeführt.

Der Nutzen für das Unternehmen steht außer Frage, kann das Bewerbungsverfahren so doch effektiver gestaltet werden. Doch nicht alles was nützlich ist, darf auch eingesetzt werden. Insbesondere aus Sicht des Bewerbers stellen sich eine Reihe von Rechtsfragen, die beim Einsatz digitaler Assistenten im Bewerbungsprozess berücksichtigt werden müssen.

Das sagt der Gesetzgeber

Im Bewerbungsprozess müssen verschiedene Regelungen - vom Gesetzgeber sowie den Arbeitsgerichten vorgegeben - eingehalten werden. Dies gilt natürlich auch, wenn eine KI in den Bewerbungsvorgang eingebunden ist.

Folgendes Szenario: KI und Bewerber kommunizieren über ein Chatprogramm. Der Bewerber beantwortet die ersten Fragen der KI am heimischen Computer. Die Künstliche Intelligenz trifft aufgrund der gelieferten Antworten eine Entscheidung und spricht eine Empfehlung aus - oder nicht. Wichtig ist, dass die KI in der Lage ist, nicht nur den eigentlichen Aussagegehalt der Antwort zu berücksichtigen, sondern auch weitere Informationen zu analysieren. So kann jedes Zögern bei der Beantwortung von Fragen oder jede Korrektur im Eingabefeld negative Auswirkungen für den Bewerber haben. So viel zum geplanten Einsatz.

Aktuelle Versuche mit Chatbots zeigen jedoch, dass die Reaktionen der Chatbots nicht immer vorhersehbar und planbar sind. Microsoft musste den Chatbot "Tay" deaktivieren, weil dieser nach wenigen Stunden angefangen hat, rassistische Aussagen zu treffen. Diese Unkontrollierbarkeit kann für den Arbeitgeber schnell rechtliche Konsequenzen haben. Denn arbeitsrechtlich ist es grundsätzlich verboten, im Bewerbungsgespräch bestimmte Fragen zu stellen. Die klassischen Bespiele sind die Fragen nach

  • Schwangerschaft,

  • Schwerbehinderung oder

  • sonstigen sehr privaten beziehungsweise persönlichen Dingen.

Einerseits soll hierdurch die Privatsphäre des Bewerbers geschützt werden. Anderseits soll durch das Verbot solcher Fragen sichergestellt werden, dass ein Bewerber nicht diskriminiert wird, wenn er wahrheitsgemäß antwortet. Deshalb darf ein Bewerber in den meisten Fällen auch lügen, wenn sie nach einer Schwerbehinderung oder Schwangerschaft gefragt wird.

Es besteht daher die naheliegende Gefahr, dass eine auf Logik, Effektivität und Rationalität getrimmte Maschine eben genau diese Fragen stellen wird, weil - aus Sicht der Maschine - Bewerber mit derartigen Eigenschaften eben nicht für eine bestimmte Stelle geeignet sind. Aspekte wie persönliche Eignung, Teamfähigkeit oder Weiterbildungsbereitschaft bleiben dabei außen vor.

Wenn in der Folge solcher Fragen ein Bewerber oder eine Bewerberin abgelehnt wird, sind Schadensersatzklagen auf Grundlage des Allgemeinen Gleichbehandlungsgesetzes (AGG) vorprogrammiert. Im Rahmen dieser AGG-Klagen würden Schadensersatzzahlungen also zur Regel. Denn gegenüber dem Bewerber würde der Arbeitgeber haften. Aus Sicht des potenziellen Arbeitgebers stellt sich dann die Frage, ob er beim Hersteller Regress nehmen kann. Wer letztlich für den ordnungsgemäßen Einsatz künstlicher Intelligenz haftet, ist eine derzeit viel diskutierte Frage, die noch nicht abschließend beantwortet ist.

Betriebsrat und Datenschutz

Außerdem muss in Unternehmen mit Betriebsräten berücksichtigt werden, dass diese bei der Installation eines KI-Recruiters mit Sicherheit mitbestimmen wollen. Im Rahmen von§ 95 BetrVG bestünde auch ein Mitbestimmungsrecht des Betriebsrates, wenn der Arbeitgeber generelle Auswahlrichtlinien entwickelt, die als Grundlage für die Entscheidung der KI dienen sollen.

So könnte die Maschine aufgrund eines vom Arbeitgeber entwickelten Punkteschemas die Bewerbungsunterlagen analysieren und am Ende des Verfahrens einen Scoringwert ausgeben. In diesem Fall hätte der Betriebsrat bei der Einführung des Punkteschemas mitzubestimmen. Deswegen sind Unternehmen sowohl hier als auch in anderen Bereichen bereits heute gefragt, innovative und rechtssichere Betriebsvereinbarungen für die Zukunft zu entwickeln.

Ungeachtet arbeitsrechtlicher Probleme offenbaren sich bei dem Einsatz solcherRecruiterRecruiter zudem datenschutzrechtliche Schwierigkeiten. Werden die individuellen Angaben eines Bewerbers im Rahmen eines Jobinterviews verwendet sowie seine Noten und seine Arbeitszeugnisse ausgewertet, handelt es sich dabei um eine Verarbeitung personenbezogener Daten. Dies gilt unabhängig davon, ob die Informationen durch einen Menschen oder durch ein Computerprogramm ausgewertet werden. Diese Datenverarbeitung ist zulässig, soweit dies für die Entscheidung über die Begründung eines Beschäftigungsverhältnisses erforderlich ist. Alles zu Recruiting auf CIO.de

Weitere Besonderheiten sind aber dann zu berücksichtigen, wenn die personenbezogenen Daten nicht durch einen Menschen verarbeitet werden, sondern durch ein Computerprogramm. Entscheidet das Computerprogramm darüber, ob ein Bewerber abgelehnt wird, gelten zusätzliche Voraussetzungen.

Die EU-Datenschutzgrundverordnung (DSGVO) regelt in Art. 22, dass die betroffene Person das Recht hat, nicht einer ausschließlich auf einer automatisierten Verarbeitung - einschließlich Profiling - beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Der Ausschluss aus einem Bewerbungsverfahren entfaltet rechtliche Wirkung gegenüber dem Bewerber.

Entscheidet ausschließlich die KI, ob ein Bewerber aus dem Bewerbungsverfahren ausgeschlossen wird, ist es grundsätzlich verboten, KI in dieser Weise in dem Bewerbungsprozess einzusetzen.

Das Gesetz sieht jedoch Ausnahmen vor. Unter anderem ist es ausnahmsweise zulässig, ein Computerprogramm dergestalt einzusetzen, wenn

  1. die Entscheidung erforderlich ist, um einen Vertrag zwischen dem Verantwortlichen und der betroffenen Person zu erfüllen, oder

  2. die betroffene Person ausdrücklich eingewilligt hat.

Beide Ausnahmen lassen sich im Bewerbungsverfahren aber kaum realisieren. Der Arbeitgeber setzt das Computerprogramm nicht zur Vertragserfüllung ein, sondern um den Vertrag zu begründen. Damit sind die Voraussetzungen von Ausnahme (i) nicht erfüllt.

Zwar ist es grundsätzlich denkbar, eine ausdrückliche Einwilligung einzuholen. Doch setzt ein wirksame Einwilligung voraus, dass diese freiwillig erteilt wird. Der deutsche Gesetzgeber hat im neuen Bundesdatenschutzgesetz (BDSG-neu) zwar festgelegt, das eine Einwilligung im Arbeitsverhältnis grundsätzlich möglich ist. Jedoch wird in der konkreten Bewerbungssituation nicht davon auszugehen sein, dass der Bewerber tatsächlich freiwillig einwilligt, wenn die Teilnahme an dem Bewerbungsverfahren voraussetzt, dass der Bewerber eine entsprechende Einwilligung erteilt hat. Der Bewerber fürchtet, im Fall der abgelehnten Einwilligung erst Recht keine Aussichten darauf zu haben, eingestellt zu werden.

Das letzte Wort hat der Mensch

Dürfen derartige Programme also überhaupt nicht eingesetzt werden?

Das Gesetz sieht vor, dass die Entscheidung nicht ausschließlich - also allein - durch ein Computerprogramm getroffen werden darf. Bereitet das Computerprogramm die Entscheidungsfindung also nur vor, zum Beispiel indem es auf Basis der Angaben des Bewerbers einen Wahrscheinlichkeitswert ermittelt, der ausdrückt, inwieweit der Bewerber für die zu besetzende Position geeignet ist, und trifft dann ein Mensch die Entscheidung darüber, den Bewerber auf Grundlage des Wahrscheinlichkeitswerts abzulehnen, steht die Regelung des Art. 22 DSGVO dem nicht entgegen.

Dieses Ergebnis erscheint fragwürdig, denn regelmäßig wird der Recruiter für sich einen bestimmten Wert definiert haben, ab dem er Bewerber ablehnt. Hat derRecruiter aber einen Grenzwert definiert, kann dieser in gleicher Weise durch ein Computerprogramm angewendet werden. Der Zweck der Regelung lässt sich nur damit erklären, dass der Gesetzgeber das Schicksal des Bewerbers nicht in die Hände einer Maschine legen möchte, um die Würde des Bewerbers zu schützen.

Wichtig ist, dass bei dem Einsatz derartiger Programme auch weitere Regelungen zu beachten sind. Unter anderem unterliegt die Erstellung eines Scoringwerts besonderen Regelungen. Zudem muss der Arbeitgeber auch umfassend darüber informieren, wie er die KI bei der Datenverarbeitung einbindet. Das Datenschutzrecht stellt somit Hürden auf. Diese können aber überwunden werden.

Abschließend bleibt festzuhalten, dass die Entwicklung der Technik der Entwicklung der gesetzlichen Rahmenbedingungen weit voraus ist. Hier ist der Gesetzgeber gefragt, am Ball zu bleiben.

Einerseits müssen Regelungen geschaffen werden, die den verfassungsgemäßen Schutz der Würde des Menschen und der Privatsphäre gewährleisten.

Anderseits darf sich der Gesetzgeber zweckmäßigen technischen Neuerungen nicht verschließen und muss positiv regeln, wie diese eingesetzt werden können.

Zur Startseite