Die Zukunft der KI im Talentmanagement E-Book

Gerrit Zehrer

• Herausgeber: Books on Demand
• Kategorie: Fachliteratur
• Sprache: Deutsch
• Veröffentlichungsjahr: 2022

Seitenzahl: 160

Beschreibung

Künstliche Intelligenz (KI) hat in Wirtschaft und Gesellschaft in den letzten Jahren einen beispiellosen Aufschwung erlebt. In der Vergangenheit wurde das Tempo dabei durch die technologischen Möglichkeiten bestimmt. In Zukunft werden zunehmend ethische und regulatorische Erwägungen den Fortschritt der Entwicklung von KI bestimmen. Dieses Buch beleuchtet die Zukunft von KI im Talentmanagement. Es verschafft Klarheit darüber, was Führungskräfte und Personalabteilungen bei der Auswahl von KI-Software beachten müssen, welche Abwägungen und Entscheidungen sie erwarten und was die technologischen aber auch kulturellen Herausforderungen sind, um KI erfolgreich in Unternehmen einzusetzen. Dieses Buch ist das Ergebnis einer Studie des Business Thinktanks Themis Foresight. Praktische Lösungen für den Einsatz von KI heute flossen ebenso in die Publikation ein, wie Ausblicke darauf, was die Zukunft noch bringen wird. Ein Must-Read für alle, die "Kollegin KI" zukünftig in ihre Teams integrieren wollen.

Leseprobe

Inhalt

Vorwort

Über Themis Foresight

Über die Autor:innen

Die Zukunft der KI im Talentmanagement

Management Summary

Einführung

Humans in the Loop

Kollegin KI

Künstliche und menschliche Intelligenz

Funktionsweise künstlicher Intelligenz

Aufgaben des Human-in-the-Loop

Ausblick – Entwicklung bis 2030

Entscheidungssysteme

Das Blackbox-Dilemma

Lösungsansätze

Regularien für den Einsatz Blackbox-KI

Ausblick – Entwicklung bis 2030

Fairness

Der Begriff der Fairness

Fairness-Konzepte für KI

Fairness im Unternehmen

Fired by a bot

Vorteile von KI im Recruiting

Ausblick – Entwicklung bis 2030

Abwägungen und Kompromisse

Datenschutz und KI

Transparenz als Lösungsansatz

Ausblick - Entwicklung bis 2030

Voraussetzungen für ethische KI

Aufbau von Fachwissen

Strukturelle Veränderungen

Entwicklung einer ethischen Kultur

Vorteile und strategische Empfehlungen

Zusammenfassung

Falsche Wahrheiten

Die Vorbehalte des Richard David Precht gegen ethische KI

Die Hypothese der »Singularität«

Ausblick: Talentmanagement für Menschen und Maschinen

Interviews

Wie sieht ein KI-Ethik-Projekt in Unternehmen aus?

Angewandte KI-Ethik in Unternehmen – Praxis-Einblicke

KI-Governance in Unternehmen

Ethische KI und ihre Herausforderungen

Glossar

Unsere Expert:innen

Verweise

Vorwort

Die Veröffentlichung dieses Buchs erfüllt unser Team mit Stolz. Denn es ist nicht nur das Werk eines einzelnen Autors oder Autorin. Noch ist es ein Sammelsurium unterschiedlicher Beiträge. Das Buch ist das Ergebnis einer Team-Anstrengung und eine Symbiose aus Zukunftsforschung – also der wissenschaftlichen Erforschung möglicher, wahrscheinlicher und wünschenswerter Zukünfte und Gestaltungsoptionen und deren Voraussetzungen in der Vergangenheit und Gegenwart – als auch Praxiserfahrung. Zu unterschiedlichen Zeiten in den vergangenen fünf Jahren haben die Autor:innen ihre Forschung auf Anwendungsfälle praktikabler KI-Ethik gerichtet, Arbeiten, Analysen und Artikel zum Thema geschrieben, Podcasts, Interviews und Reden gehalten und vor allem auch Unternehmen begleitet bei der Entwicklung von Richtlinien, die dazu beitragen, dass der Einsatz machtvoller Algorithmen im Einklang mit Werten wie Vielfalt, Gleichstellung oder Fairness steht.

Die Erfahrungen dieser unterschiedlichen Tätigkeiten spiegeln sich in den unterschiedlichen Teilen unseres Buchs. Kernstück der folgenden Seiten ist das Dokument »Die Zukunft der KI im Talentmanagement«. Es entstand als Zusammenfassung einer Delphi-Studie, die unser Researcher Gerrit Zehrer zwischen Mai und Oktober 2021 durchführte. Unser Senior Researcher James Hoefnagels begleitete Gerrit als Sparringpartner rund um Methodik und Analytik. Jan Berger involvierte sich intensiv in der Ausarbeitung des Forschungsdesigns und in Aspekten der Qualitätssicherung und Carina Stöttner zeichnete verantwortlich für die redaktionellen Arbeiten.

Unser Dank gilt an erster Stelle allen Expertinnen und Experten, die sich nicht nur bereit erklärten, in einer ersten Befragungswelle das Thema der Entwicklung, Anwendung und des Betriebs ethischer KI in bisweilen über drei Stunden dauernden Tiefeninterviews von unterschiedlichsten Gesichtspunkten zu beleuchten. Sie ergänzten darüber hinaus auch noch in einer zweiten Befragungswelle ihre Sichtweisen zu den Meinungen und Hypothesen der jeweils anderen Expert:innen.

Wir möchten insbesondere die Beiträge von drei Mitstreiter:innen hervorheben, die uns während des Projekts aber auch schon in den Jahren zuvor mit Rat und Tat zur Seite standen. Wir haben den Austausch mit Ana Chubinidze zu Governance- und Policy-Themen sehr geschätzt, insbesondere zu unterschiedlichen Frameworks für die Entwicklung und den Betrieb ethischer KI. Daniel Jeffries begleitete unser Team seit vier Jahren und beeinflusste maßgeblich unsere Sichtweisen auf die praktische Umsetzung von KI-Ethik-Frameworks in Großunternehmen. In mehreren Kundenprojekten spielte er eine zentrale Rolle in der Entwicklung von Richtlinien und Policys und in der Identifikation von Maßnahmen. Besonders möchten wir uns auch bei einem Menschen bedanken, der uns Einblicke in KI-Ethik-Design für autonomes Fahren gewährte und maßgeblich zur Demystifizierung vieler Un- und Halbwahrheiten, Hypes und untauglicher Methoden beitrug. Auszüge aus den Interviews mit allen dreien veröffentlichen wir zusammen mit dem Studientext.

Unser Dank gilt auch Stephanie Krauße für die redaktionelle Bearbeitung des Studientextes. Die verständliche Aufbereitung komplexer und manchmal mystisch wirkender Zusammenhänge für ein breites Publikum ist ein Handwerk an sich, insbesondere wenn drei meinungsstarke Co-Autor:innen noch um eine angemessene Gewichtung einzelner Aspekte ringen.

Aus der praktischen Erfahrung mit Unternehmen war es uns auch wichtig, Mythen über KI und undurchdachte Schlussfolgerungen von Philosoph:innen und Evangelist:innen aufzugreifen und zu kritisieren. Oft werden diese unbedacht von Unternehmenslenker:innen übernommen und haben das Potenzial, Schaden anzurichten. Kleinere kritische Exkurse sowie der Artikel über die Hypothese der Singularität greifen diese Argumente auf.

In einem Ausblick widmen wir uns der Frage, welche Konsequenzen das immer engere Zusammenwirken von Menschen und Maschinen auf das Talentmanagement von Unternehmen hat. Wenn der Talentpool eines Unternehmens durch stark inselbegabte aber sonst nicht empfindungsfähige Wesen wie Roboter, Exoskelette und Algorithmen bereichert wird und wir mit ihnen buchstäblich durch Mensch-Maschine-Schnittstellen teilweise verschmelzen, dann werden sich Personalbereiche von Unternehmen auch der Frage stellen müssen, inwieweit und an welchen Stellen sie eine Entscheidungshoheit über diesen Talentpool erhalten müssen, um die Leitplanken für Unternehmensprozesse und Teamzusammensetzungen zu entwickeln und möglicherweise auch oft für Betriebsfrieden zu sorgen.

Ein Glossar am Ende des Buchs hilft unseren Leser:innen hoffentlich bei der Einordnung der Verwendung unterschiedlicher Begrifflichkeiten.

Auch wenn wir für uns mit Veröffentlichung dieser Studie einen »Schlussstrich« unter dieses Projekt ziehen, heißt das noch lange nicht, dass unsere Arbeit hier beendet ist. Ein Motto von Themis Foresight ist, dass wir die Welt nur so weit verstehen, wie wir versuchen, sie zu verändern. Insofern hoffen wir darauf, dass dieses Buch ein lebendes und lebendiges Dokument wird, wir erhoffen uns Ihr Feedback, Ihre Anregungen und einen Austausch darüber, wie die zunehmende Verwendung Künstlicher Intelligenz in Unternehmen dazu beiträgt, eine bessere Zukunft zu schaffen.

Gerrit Zehrer, Jan Berger, James Hoefnagels und Carina Stöttner

Über Themis Foresight

Themis Foresight ist ein Business Thinktank und unterstützt Unternehmenslenker:innen mit ihrer Zukunftsforschung dabei, ihr Geschäftsmodell auf die nächsten 10 bis 15 Jahre auszurichten. Ihre Mission ist es, Unternehmen mit ihrem Verständnis der Zukunft zu beflügeln, damit sie die Chancen marktprägender Technologien nutzen und so die Zukunft der europäischen und globalen Wirtschaft mitgestalten können.

Das Unternehmen identifiziert die entscheidenden Entwicklungen der nächsten 10 bis 15 Jahre und untersucht, welche gesellschaftlichen, wirtschaftlichen sowie politischen Treiber und neue Technologien die Geschäftsmodelle von Unternehmen und Branchen in Zukunft beeinflussen und verändern werden.

Die Zukunftsforschung von Themis Foresight bietet dafür ein Unikat aus wissenschaftlicher Forschung, Zukunftsexpertise und unternehmerischen Gestaltungsoptionen. Dazu stellen wir speziell für jedes Anliegen die aufschlussgebenden Perspektiven, trennschärfenden Schwerpunkte, differenzierenden Ansätze und verfeinernden Methoden zusammen.

Über die Autor:innen

Gerrit Zehrer studierte und arbeitete in Hongkong, Indien und den Vereinigten Staaten und entwickelte ein tiefes Verständnis für kulturelle Vielfalt. Dieses nutzt er, um verschiedene Blickwinkel von Zukünften zu beleuchten. Gerrit hat sich neun Monate lang mit dem Thema KI-Ethik im Talentmanagement beschäftigt und dabei die Blickwinkel zahlreicher Expert:innen weltweit eingefangen. Sein betriebswirtschaftlicher Hintergrund macht ihn zu einem Experten für die strategische Umsetzung von Zukunftsforschung für Geschäftsmodelle und Prozesse.

Jan Berger ist Historiker, Zukunftsforscher, Sparring-Partner von Executives, Redner und Gründer der Themis Foresight GmbH. Er lebte und arbeitete auf vier Kontinenten. Seine berufliche Laufbahn startete er im Verlagswesen und wechselte dann in die Immobilienbranche, wo er den Aufbau des Russlandgeschäfts für einen dänischen Immobilienkonzern verantwortete. Nach zwei Jahren in einem Digital-Startup leitete er für 7 Jahre die Geschäfte eines Zukunftsinstituts und gründete 2021 Themis Foresight. Er hat bereits zahlreiche Unternehmen zu KI-Themen beraten. Darüber hinaus ist er Autor und Co-Autor von über einem Dutzend Zukunftsstudien und Trendanalysen.

James Hoefnagels ist Politologe mit einem Schwerpunkt auf internationale Beziehungen und politische Ökonomie. Als Senior Researcher & Strategist betreut James eine Vielzahl unserer Kunden bei der Einschätzung von langfristigen Entwicklungen. Er ist Autor und Co-Autor mehrerer Zukunftsstudien und Trendanalysen für die Finanzwirtschaft, Cybersecurity und Quantencomputing. Bevor er sich Themis Foresight anschloss, war er als Senior Researcher, Strategist, Junior Associate und Consultant in unterschiedlichen Denkfabriken in Brüssel, Kopenhagen und Leipzig tätig.

Carina Stöttner ist Mitgründerin und Managing Director von Themis Foresight. Die Soziologin und Medienwissenschaftlerin hat sich im Rahmen ihres Doppelmasters in Italien besonders intensiv mit der Implementierung von Kultur in künstlicher Intelligenz auseinandergesetzt und an Projekten im Bereich KI-Ethik mitgewirkt. Vor ihrer Zeit bei Themis Foresight sammelte sie Erfahrungen in digitalen Innovationen, Kommunikation und Zukunftsforschung in einem Großkonzern, einer Medienagentur und einer Denkfabrik.

Die Zukunft der KI im Talentmanagement

»Wer nicht über die ethischen oder zumindest gesellschaftlichen Konsequenzen seiner Technologie nachdenkt, wird in der Zukunft auf die Nase fallen« – Anonyme Expertin

»Die Zukunft der KI im Talentmanagement« ist die Zusammenfassung der Ergebnisse einer Delphi-Studie, die von Themis Foresight zwischen Mai und Dezember 2021 durchgeführt wurde. Im Verlauf der Studie wurden über ein Dutzend Expert:innen auf diesem Gebiet in zwei Befragungswellen interviewt. In einer ersten Befragungswelle teilten uns die Expert:innen ihre Sichtweisen auf das Thema in leitfadengestützten Tiefeninterviews mit. Die Kernaussagen aus diesen Interviews wurden dann in einer zweiten Befragungswelle allen Expert:innen zur Verfügung gestellt und sie hatten die Gelegenheit, ihre eigenen Ansichten und die ihrer Kolleg:innen zu verfeinern. Eine Delphi-Befragung ist eine qualitative Erhebung. Ihr Anliegen ist nicht, eine »Mehrheitsmeinung« abzubilden, sondern einen Untersuchungsgegenstand aus so vielen wie möglich relevanten Aspekten zu beleuchten und so zu einer Einschätzung von Entwicklungsdynamiken zu kommen. Die Zusammenfassung der Ergebnisse erfolgte durch Themis Foresight und spiegelt nicht notwendigerweise einen Konsens unter den Expert:innen wider.

Management Summary

Künstliche Intelligenz (KI) hat in Wirtschaft und Gesellschaft in den letzten Jahren einen beispiellosen Aufschwung erlebt. Die technologische Entwicklung hat dabei Regulierungen und ethische Überlegungen drastisch überholt. Sowohl öffentliche als auch private Organisationen versuchen, diese Lücke zu schließen. Sie betonen dabei insbesondere die wachsende Bedeutung und den Wert einer ethischen KI.

In der Vergangenheit wurde das Tempo dabei durch die technologischen Möglichkeiten bestimmt. In Zukunft werden vor allem ethische und regulatorische Erwägungen bestimmen, wie schnell KI fortschreitet.

Es herrscht die weit verbreitete Vorstellung, dass KI menschliche Arbeitskraft ersetzen soll. Entgegen dieser Annahme wird die künftige Leistung von KI jedoch eher von der Fähigkeit eines Unternehmens abhängen, menschliche und algorithmische Stärken zu kombinieren. Teams, die heute rein menschlich sind, werden zukünftig human-digital sein.

Vor allem in komplexen Anwendungsbereichen werden solche hybriden Systeme zum Einsatz kommen. Sie sind das zurzeit effektivste Modell, um Verzerrungen (Bias) so klein wie möglich zu halten. Kosten- und Zeitersparnisse sind nur ein Vorteil von KI im Talentmanagement. Ein großer Nutzen liegt darin, menschliche Entscheidungen zu unterstützen und zu hinterfragen. KI-Systeme, die gewissen Fairness-Kriterien folgen, können einen großen Beitrag dazu leisten, beabsichtigte und unbeabsichtigte menschliche Voreingenommenheit aufzudecken. Im Gegensatz zu Menschen, die oft subjektiv entscheiden und Fairness-Vorgaben (bewusst oder unbewusst) missachten, bewerten KI-Systeme zuverlässig und objektiv auf der Grundlage der Fairness-Kriterien, auf die sie trainiert wurden. Sie sind in der Lage, menschliche Entscheidungen aufzudecken, die nicht mit diesen Kriterien übereinstimmen.

Das hat Folgen: Unternehmen werden mit dem Einsatz von echter ethischer KI nicht mehr in der Lage sein, ihre eigenen Werte zu ignorieren. KI wird sie dazu zwingen, die Werte, die sie nach außen kommunizieren, tatsächlich zu leben.

Ebenso wird der Mensch in Zukunft eine wichtige Rolle dabei spielen, historische Voreingenommenheit und Verzerrungen, die in den Trainingsdaten stecken, zu entdecken und abzumildern. Unternehmen, die wirklich daran interessiert sind, faire und ethische KI-Prozesse zu schaffen, müssen eine Kultur der Ethik innerhalb ihrer Organisation entwickeln. Nur so können sie ein Umfeld schaffen, in dem sich KI-Ethik entfalten kann.

Ethische KI funktioniert nicht nach einem »Plug and Play«-Prinzip. Es braucht weitaus mehr, als nur ein paar Ethiker:innen an Bord zu holen. Tatsächliche KI-Ethik erfordert den Aufbau neuer Strukturen, die Aneignung zusätzlicher Fachkenntnisse, die Entwicklung von Kompetenzen und die Durchführung umfangreicher Schulungen.

In einem dreistufigen Modell werden Unternehmen angeleitet, ihre Werte zu definieren und untereinander abzugleichen, die Notwendigkeit und die Vorteile der KI-Ethik zu kommunizieren und Schulungen zu konzipieren und anzubieten, die den Weg für eine erfolgreiche Implementierung ethischer KI ebnen. Diese Maßnahmen betreffen nicht nur die HR-Abteilung, sondern beziehen das gesamte Unternehmen und insbesondere die Führungsebene mit ein.

In einer KI-Ära, die von Fortschritten im Deep Learning dominiert wird, gewinnt die Forderung nach Erklärbarkeit zunehmend an Bedeutung. In absehbarer Zukunft werden Unternehmen Abwägungen zwischen Erklärbarkeit (Explainability) und Leistung (Performance) ihrer KI-Systeme treffen müssen. Jedes Unternehmen wird dabei individuell seinen bestmöglichen Weg bestimmen müssen – also sein Pareto-Optimum bei der Abwägung zwischen Leistung von Algorithmen und ethischen Grundsätzen finden müssen.

Unternehmen, die sich nicht mit ethischen Fragen befassen, laufen Gefahr, verzerrte und folglich oft diskriminierende KI-Ergebnisse zu produzieren. Dabei riskieren Unternehmen nicht nur Reputationsschäden, sondern auch finanzielle Risiken, sowie mögliche Verstöße gegen Rechtsvorschriften. Wer keine (ethische) KI einsetzt, riskiert den Verlust zahlreicher hochqualifizierter Talente und setzt langfristig den Erfolg des Unternehmens auf Spiel.

Einführung

Wir befinden uns mitten in einer digitalen Revolution, die alle Lebensbereiche betrifft. Ein bedeutender Treiber dieser Revolution ist die Künstliche Intelligenz (KI).

KI ist nicht nur in unserem Alltag, sondern auch in der Arbeitswelt angekommen:

Diagnosen, für die Ärzt:innen jahrelange Erfahrung, mehrere Stunden Arbeit und höchste Konzentration brauchen, stellt künstliche Intelligenz innerhalb weniger Sekunden. (1) In der Logistik übernimmt KI-Software die Routen- und Kapazitätsplanung, im Finanzsektor deckt sie betrügerische Transaktionen auf, im Handel legt sie Produktpreise fest oder erstellt kundenbasierte Produktempfehlungen.

Aufgrund dieser Entwicklung wird für den globalen KI-Markt eine atemberaubende jährliche Wachstumsrate von über 40% bis 2028 prognostiziert. (2)

Zu einem der großen Wachstumsbereiche für künstliche Intelligenz gehört das Talentmanagement. Die Vorteile, die KI-Systeme Personalabteilungen bieten, liegen auf der Hand: Vor allem dort, wo sich Abläufe automatisieren lassen, spielt künstliche Intelligenz ihre Stärken aus. So lässt sich der Zeitaufwand für das Lebenslauf-Screening nach Angaben von Expert:innen durch den Einsatz von KI um bis zu 90% reduzieren. Das macht wertvolle Ressourcen für HR-Kernaufgaben wie Jobinterviews, Active Sourcing oder Weiterqualifizierung frei. (3)

Künstliche Intelligenz bietet gerade großen Unternehmen noch einen weiteren, wichtigen Vorteil: Für KI-Software spielt es keine Rolle, ob pro Woche drei oder 3000 Bewerbungen geprüft werden müssen, sie schafft auch noch ein paar Tausend Bewerbungen mehr.

Also sollte der Einsatz von künstlicher Intelligenz im Talentmanagement doch uneingeschränkt empfehlenswert sein, oder?

So einfach ist es leider nicht, denn KI-Software ist nicht irgendeine Software: KI-Software stellt besondere Anforderungen an Unternehmen, und damit ist nicht die technische Umgebung gemeint.

Der Gesetzgeber spricht bei Bereichen wie dem Talentmanagement von Hochrisikobereichen und meint damit, dass hier Menschen durch den Einsatz von künstlicher Intelligenz zu Schaden kommen können – sei es gesundheitlich, sei es beruflich oder anderweitig. Um das Risiko zu minimieren, dass KI in Hochrisikobereichen Schaden anrichtet, muss sie also nicht nur technische, sondern auch ethische Anforderungen erfüllen.

Der Einsatz von KI im Talentmanagement erfordert daher nichts Geringeres als eine scharfe Bestimmung von ethischen Unternehmenswerten – etwas, das für viele Unternehmen noch nicht selbstverständlich ist.

Ethische Leitlinien von Unternehmen sind heute primär eine Absichtserklärung und manchmal noch nicht einmal das, sondern nur eine Marketing-Strategie, um eine bestimmte Außenwirkung zu transportieren. Künstliche Intelligenz kann mit Absichtserklärungen aber nicht arbeiten, sie braucht messbare ethische Maßstäbe.

Dort, wo KI in Hochrisikobereichen eingesetzt wird, entwickelt sich Ethik daher vom abstrakten Leitbild zur messbaren Größe.

Dass kein Unternehmen vor einem unethischen Einsatz von KI gefeit ist, auch nicht die ganz großen Global Player, hat Amazon mehr als deutlich gemacht.

Automatisierung ist der Schlüssel zu Amazons Erfolg im E-Commerce-Sektor. Nicht nur in den Lagerhallen, sondern auch in vielen anderen Bereichen finden sich bei Amazon KI-gestützte Prozesse. Amazon ist auch Vorreiter für KI im Personalmanagement und im Recruiting. Im Jahr 2015 musste das Unternehmen allerdings feststellen, dass mit seinem KI-gestützten Recruiting-System etwas nicht stimmte:

Das System bewertete Lebensläufe von Frauen grundsätzlich schlechter als Lebensläufe von Männern. Insbesondere Lebensläufe, die das Wort »Frau« enthielten, wie z. B. »Leiterin des Frauenschachclubs«, wurden von der Recruiting-KI direkt aussortiert.

Amazons KI hatte sich selbst beigebracht, männliche Bewerber zu bevorzugen. Doch wie kann so etwas passieren? Bevor KI-Software produktiv geht, wird sie für ihren Einsatzzweck trainiert. Beim Training lernt künstliche Intelligenz anhand von Beispieldaten, Muster und Zusammenhänge zu erkennen, die sie ihren Berechnungen zugrunde legen kann.

Amazons KI-Software war darauf trainiert, Bewerber:innen zu überprüfen, indem sie Muster in Lebensläufen aus den letzten 10 Jahren auswertete. Die meisten dieser Lebensläufe stammten von Männern. Die KI kam so zu dem Schluss, dass Männer die geeigneteren Bewerber sein mussten.(4)

Für Amazon hatte die voreingenommene KI-Software bis auf eine schlechte internationale Presse wenig Konsequenzen, doch wie sähe der Fall aus, wenn es sich nicht gerade um das drittgrößte Unternehmen der Welt handelt?

Bewerber:innen und Mitarbeiter:innen beurteilen Arbeitgeber zunehmend auch nach ethisch-moralischen Gesichtspunkten: Es geht heute nicht mehr nur um Karriere und Gehalt, sondern auch darum, ob man mit den Werten eines Unternehmens übereinstimmt. Auch die große Mehrheit der Entscheider:innen gibt an, dass Ethik für sie nicht nur bedeutet, Gesetze zu befolgen, sondern auch, sich bei Entscheidungen an den Unternehmenswerten zu orientieren. (5)

Wird öffentlich bekannt, dass ein Unternehmen unfaire Entscheidungen trifft und Bewerber:innen und Mitarbeiter:innen diskriminiert, drohen Abwanderung der Mitarbeiter:innen, Verlust der Glaubwürdigkeit, finanzielle Einbußen und im schlimmsten Fall juristische Auseinandersetzungen.

Künstliche Intelligenz wird zukünftig in allen Unternehmensbereichen eine immer größere Rolle spielen. Daher werden Unternehmen immer häufiger gezwungen sein, sich mit KI-Software auseinanderzusetzen, um mit ihren Mitbewerbern Schritt halten zu können. Dabei ist zu erwarten, dass der Gesetzgeber gerade den Einsatz von künstlicher Intelligenz in Hochrisikobereichen wie dem Talentmanagement immer strenger regulieren wird.

Unternehmen, die sich diesen Herausforderungen frühzeitig stellen, können den Einsatz ethischer Unternehmens-KI etablieren und optimieren. Unternehmen, die sich von der Entwicklung abhängen lassen, riskieren nicht nur finanzielle Verluste, sondern auch ihren guten Ruf, wenn sie durch unbedachten, diskriminierenden Einsatz von KI-Software Bewerber:innen und Mitarbeiter:innen schädigen. Diese Unternehmen werden außerdem langfristig nicht in der Lage sein, die besten Talente für sich zu gewinnen: Künstliche Intelligenz spart im Talentmanagement nicht nur Zeit – ethische KI gibt auch die objektiveren Empfehlungen. Kandidat:innen werden daher zukünftig immer häufiger erwarten, dass Unternehmen ethische Recruiting-KI einsetzen.

Die folgenden Kapitel informieren über wichtige Konzepte der künstlichen Intelligenz, beleuchten die Rolle, die der Mensch zukünftig beim Einsatz von KI-Systemen spielen wird, und erläutern, zu welchen Abwägungen Unternehmen bereit sein müssen, um die Risiken beim Einsatz von KI im Talentmanagement zu minimieren.

So helfen sie bei der Einschätzung, wo die Fallstricke beim Einsatz von künstlicher Intelligenz im Talentmanagement liegen, und zeigen Wege auf, wie ein ethischer Einsatz von KI im Unternehmen funktionieren kann.

Humans in the Loop

Dass KI zukünftig auch in der Arbeitswelt immer wichtiger werden wird, ist unbestritten. Doch welche Rolle spielt der Mensch bei dieser Entwicklung? Dieses Kapitel gibt eine grundlegende Einführung in das Thema künstliche Intelligenz und beleuchtet die Schnittstellen zwischen Mensch und KI, auch in Hinblick auf den Einsatz von KI im Recruiting.

Kollegin KI

Obwohl das Thema KI seit Jahren in aller Munde ist, ist unser Wissen darüber, was KI ist und was KI kann, oft immer noch lückenhaft. Das Bild von KI, das in den Medien transportiert wird, ist dabei nicht unbedingt hilfreich: Von der Vermenschlichung der KI, wenn beispielsweise Sprachassistenten menschliche Eigenschaften zugeschrieben werden, bis zur Horrorvorstellung einer uns feindlich gesonnenen Superintelligenz ist in der Berichterstattung über KI alles vertreten.

Die Gefahr einer künstlichen Superintelligenz dürfen wir im Moment guten Gewissens vernachlässigen. Andere Bedenken beim Einsatz von KI sind da schon wesentlich greifbarer: Insbesondere die wachsende Bedeutung von KI in der Arbeitswelt löst bei vielen Menschen Besorgnis aus. »Kollegin KI« ist in vielen Unternehmen noch nicht gern gesehen, denn die Angst, dass KI den eigenen Arbeitsplatz gefährden könnte, ist weit verbreitet. (6)

Nur 35% der Menschen fühlen sich wohl dabei, mit Unternehmens-KI zu interagieren, insbesondere dann, wenn die KI an komplexen Beurteilungen wie Einstellungsentscheidungen beteiligt ist. (7)