KI ohne Kopfschmerzen: Praxis-Tipps für HR-Teams
In dieser Folge von „von HR für HR“ sprechen wir mit Luca, Produktmanager bei HRlab, über den Einsatz von Künstlicher Intelligenz (KI) in HR-Tools. Im Fokus stehen Fragen wie: Wie kann KI sicher angewendet werden? Welche rechtlichen Rahmenbedingungen sind zu beachten? Und wie lassen sich Prozesse effizient gestalten, ohne dass der Einsatz von KI zum Risiko für Unternehmen oder Mitarbeitende wird?
KI im HR-Bereich
KI für HR-Themen einzusetzen, kann Arbeitsersparnis und Effizienzsteigerung mit sich bringen. Gleichzeitig herrscht bei vielen Anwendern Unsicherheit, ob die Nutzung rechtlich einwandfrei ist.
Der KI-Act der Europäischen Union ist dabei ein erster gesetzlicher Rahmen, der die Entwicklung und Anwendung von KI reguliert und einen verantwortungsvollen, sicheren und fairen Umgang gewährleisten soll. Ein wichtiger Punkt den man verstehen muss: „Die DSGVO-Prinzipien gelten weiterhin, besonders bei persönlichen Daten. Die beiden Regelwerke existieren also nebeneinander und ergänzen sich", erklärt Luca.
KI-Act: Risikoklassen von KI-Systemen
Der KI-Act arbeitet risikobasiert: Jedes KI-System wird auf mögliche Risiken für Betroffene geprüft und in vier Risikoklassen eingeordnet. Die Risikoklasse bestimmt später die Pflichten für Anwender und Anbieter der KI-Systeme:
- Inakzeptables Risiko: Verbotene Praktiken, die Freiheitsrechte verletzen (z. B. Social Scoring, emotionale Überwachung am Arbeitsplatz). Solche Systeme sind in der EU nicht mehr zugelassen.
- Hochrisiko: Systeme, deren Fehlanwendung ernsthafte Auswirkungen haben kann. Im HR-Bereich fallen hier z. B. bestimmte biometrische Systeme oder automatisierte Bewerberbewertungen hinein.
- Begrenztes Risiko: KI-Systeme wie einfache Empfehlungssysteme oder Chatbots, die Inhalte erzeugen. Hier greift die Transparenzpflicht, z. B. der Hinweis, dass Inhalte KI-generiert sind.
- Minimales Risiko: Systeme wie Spam-Filter oder automatische Textvorschläge, bei denen keine regulatorischen Einschränkungen bestehen.
Praxisbeispiel: Bewerberauswertung im Recruiting
Luca gibt einen spannenden Blick hinter die Kulissen aus der Produktentwicklung für HRlab: "Wir wollten für unsere User die Idee umsetzen, Lebensläufe automatisch zu analysieren und anhand von KI eine erste Einordnung zu erstellen."
Der erste Testlauf brachte dann die Erkenntnisse: „Ich habe einen Dummy-Lebenslauf hochgeladen, und war doch ziemlich überrascht, was die KI daraus gemacht hat“, erinnert sich Luca. „Sie erstellte eine Stärken-Schwächen-Analyse, eine Zusammenfassung und am Ende sogar eine Empfehlung: ‚Lohnt es sich, diesen Kandidaten weiter einzuladen oder nicht?‘ Da wurden die Augen wurden erstmal groß.“
Doch schnell stellte sich die Frage nach der rechtlichen Sicherheit: „Dürfen wir das überhaupt?“, so Luca. Um das zu klären, wurde die Risikoklassifizierung nach dem KI-Act geprüft. Auf den ersten Blick mag man meinen, dass es sich als einfaches Empfehlungssysteme um ein System mit begrenztem Risiko handelt.
Doch: Wenn so ein Tool den Entscheidungsprozess eines Rekrutierers maßgeblich beeinflusst, dann kann es für den Bewerber entscheidend sein. Und dann ist es genau nicht mehr "einfach", sondern ein System mit erheblicher Wirkung – potenziell Hochrisiko.
Denn: Die KI kennt in dem Fall viel mehr als nur den Lebenslauf, sie berücksichtigt die Stelle, das Unternehmen und erstellt eine Einschätzung, die man sonst erst in ein bis zwei Stunden manuell gehabt hätte. Und dann ist man schnell versucht zu sagen: ‚Ach, das passt schon.‘
Hat die KI einen erheblichen Einfluss auf die Entscheidung, oder erleichtert sie HR nur die Entscheidungsfindung? Genau das ist der Punkt, an dem es kritisch wird.
Die Lösung: Die KI haben wir also so angepasst, dass sie nur eine objektive Zusammenfassung der Lebensläufe liefert. Im Resultat senkt das die Risikoklasse, gleichzeitig bleibt der Nutzen für HR-Teams hoch: Bewerbungen müssen nicht mehr vollständig manuell gesichtet werden, und HR kann auf einen Blick die relevanten Informationen prüfen.
Tipp für HR: Wenn man bestimmte Prozessschritte automatisieren möchte, sollte man sich immer fragen: Brauche ich ein Tool, das den gesamten Prozess übernimmt? Wenn ja, muss ich Pflichten erfüllen. Wenn nicht, kann man den Prozess in Teilschritten optimieren, den gesetzlichen Aufwand minimieren und trotzdem einen erheblichen Nutzen erzielen.
Automatisierung ja - aber zu welchem Preis?
Die Automatisierung von HR-Prozessen durch KI klingt also zunächst verlockend: Ein Tool, das den gesamten Prozess übernimmt, kann die Arbeit deutlich erleichtern. Doch der Einsatz eines solchen Systems bringt erhebliche Pflichten mit sich. Vor allem bei Hochrisikosystemen müssen Betreiber Registrierungs- und Informationspflichten erfüllen, den Datenschutz sicherstellen, die KI-Kompetenz im Team fördern und für menschliche Aufsicht sorgen („human in the loop“). Ein Tool blind einzusetzen, reicht rechtlich nicht aus.
Für Unternehmen gilt deswegen, genau abzuwägen, ob sich der Einsatz eines Hochrisiko-Tools wirklich lohnt. Der administrative Aufwand kann sonst den Nutzen übersteigen. Unsere Devise bei HRlab? KI-Funktionen so gestalten, dass Aufwand und Nutzen sowohl für den Anbieter als auch für den Betreiber möglichst ausgewogen sind. Denn Verstöße gegen den KI-Act können erhebliche finanzielle Konsequenzen haben: Bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.
Je toller das KI-basierte Feature für die Personaler ist, desto höher ist die Wahrscheinlichkeit, dass wir auch vom hohen Risiko sprechen. Das ist leider immer so.
Das müssen Unternehmen bedenken, wenn Sie KI verwenden
Der KI-Act der Europäischen Union definiert klar, wer im Umgang mit KI-Systemen welche Rolle übernimmt. Dabei werden zwei Hauptakteure unterschieden: Anbieter und Betreiber. Anbieter entwickeln und vertreiben die KI-Systeme, wie zum Beispiel HRlab als Softwareunternehmen.
Betreiber sind die Nutzer dieser Systeme, etwa Unternehmen oder HR-Teams, die die Tools in ihren Prozessen einsetzen. Je nach Risikoklasse des eingesetzten KI-Systems ergeben sich auch für Betreiber verschiedene Pflichten. Dazu gehören unter anderem:
- Schulung von Mitarbeitenden im richtigen Umgang mit der KI, damit die Systeme fachgerecht genutzt werden.
- Einrichtung technischer und organisatorischer Maßnahmen (TOMs), um die Nutzung der KI abzusichern und Fehlfunktionen zu verhindern.
- Sicherstellung menschlicher Aufsicht („human in the loop“)“, damit Entscheidungen der KI überprüft und gegebenenfalls korrigiert werden können.
- Kontinuierliche Betriebsüberwachung der KI-Systeme und Meldung von Abweichungen oder Fehlfunktionen.
- Bei Hochrisikosystemen ist zusätzlich eine Registrierung in einer EU-Datenbank erforderlich.
- Transparenz gegenüber Betroffenen, zum Beispiel Bewerbern, die über den Einsatz von KI informiert werden müssen.
Wichtig zu betonen ist: Selbst wenn die KI nur unterstützende Funktionen übernimmt, entfallen diese Pflichten nicht automatisch. Neben einem Datenschutzbeauftragten lohnt es sich für Unternehmen auch eine qualifizierte Person, wie einen KI-Beauftragten, einzusetzen, um die Einhaltung aller Vorschriften zu überwachen und rechtliche Risiken zu minimieren.
5 Handlungsempfehlungen für HR im Umgang mit KI
- Use-Case definieren: Welche Aufgaben soll die KI übernehmen?
- Risikoeinschätzung durchführen: Welche Risiken entstehen für Betroffene?
- Risikoklasse prüfen: Hochrisiko oder begrenztes Risiko?
- Nutzen prüfen: Rechtfertigt der Effekt den Aufwand oder gibt es alternative Prozesse?
- Pflichten umsetzen: Mitarbeiterschulung, Betriebsüberwachung, Transparenz.
Die ganze Folge “von HR für HR”
Durch Datenschutzeinstellungen blockiert
Basierend auf Ihren Datenschutzeinstellungen wird der Inhalt nicht geladen. Bitte bearbeiten Sie Ihre Datenschutzeinstellungen.
Disclaimer
Wir möchten an dieser Stelle darauf hinweisen, dass die Inhalte unser Internetseite einem unverbindlichen Informationszweck dient und entsprechend keiner offiziellen Rechtsberatung gleichkommt. Das beinhaltet auch Beiträge zu rechtlichen HR-Themen, deren Inhalt eine individuelle und verbindliche Rechtsberatung nicht ersetzt. Aus diesem Grund sind alle angebotenen Informationen ohne Gewähr auf Richtigkeit und Vollständigkeit. Die Inhalte unserer Internetseite werden allerdings mit größter Sorgfalt recherchiert.