Risiken von KI und Chatbots in der Personalabteilung

Mareike Kaufmann
09. Mai 2024
Image

Generell versteht man unter der k√ľnstlichen Intelligenz smarte Programme, die Probleme l√∂sen, die zuvor von Menschen bearbeitet werden mussten. Die KI greift dabei auf Datens√§tze zur√ľck, mit denen sie zuvor trainiert wurde. Genauere Erkl√§rung zum Thema der k√ľnstlichen Intelligenz finden Sie in unserem dazugeh√∂rigen Blogbeitrag.

Inhalt:

  1. In welchen Bereichen können Chatbots eingesetzt werden?
  2. Welche Sorgen und Risiken birgt die Verwendung von Chatbots?
  3. Worauf muss bei der Verwendung von k√ľnstlicher Intelligenz besonders geachtet werden?
  4. Zusammenfassung

In welchen Bereichen können Chatbots eingesetzt werden?

K√ľnstliche Intelligenz in Form von Chatbots kann im HR-Bereich besonders f√ľr Routine-Anfragen verwendet werden. Wenn diese Anfragen manuell von den Mitarbeitenden bearbeitet werden, beansprucht es viel Zeit, die die Arbeitnehmenden dann auf komplexere und individuellere Probleme, bei denen zwischenmenschliche Kompetenzen ben√∂tigt werden, verwenden k√∂nnen.

Zu den am weitesten verbreiteten Aufgaben von Chatbots zählen zum Beispiel das Beantworten von Standardfragen bei Bewerbungsprozessen oder bei Fragen rund um den Onboarding-Prozess.

Welche Sorgen und Risiken birgt die Verwendung von Chatbots?

Besonders der Datenschutz und die sensiblen Daten stehen immer wieder im Zentrum der Sorgen, wenn es um die Verwendung von Chatbots geht. Wie sich zeigt, kommen diese Sorgen nicht aus dem Nichts. K√ľnstliche Intelligenz ist bei weitem nicht immer rechtssicher. Sie bezieht ihre Informationen aus vielen verschiedenen Quellen und kann sich demnach sogar in den eigenen Antworten widersprechen. Dar√ľber hinaus sind KI-Algorithmen meist so kompliziert und die verarbeiteten Datenmengen so gro√ü, dass die Entscheidungen, die durch die k√ľnstliche Intelligenz getroffen werden, nicht mehr nachvollziehbar sind. Auch ist f√ľr die Mitarbeitenden h√§ufig unklar, wann tats√§chlich auf eine KI-Anwendung zur√ľckgegriffen wird. Das kommt daher, dass h√§ufig nicht klar gekennzeichnet ist, wann und zu welchem Zweck eine bestimmte Anwendung eingesetzt wird. H√§ufig fehlen dabei beispielsweise Quellenangaben zu den verwendeten Daten.

Auch vor Fehlentscheidungen ist man trotz der Verwendung von Chatbots oder anderen KI-Lösungen nicht sicher. Ein Fehler bei der Angabe der Datensätze reicht aus, damit auch einfachere Aufgaben, wie die Selektion neuer Bewerbender, dadurch erschwert werden können. Der Datenschutz ist ein weiterer wichtiger Aspekt bei der Bewertung der Risiken durch die Verwendung von KI und Chatbots. Anwendungen, die beispielsweise das Verhalten von Mitarbeitenden in den sozialen Netzwerken oder bei Bewerbungsvideos bewerten, analysieren und speichern sensible Daten und das zum Teil auch ohne die Einwilligung der entsprechenden Mitarbeitenden.

Generell gilt, dass ein Chatbot oder auch ein anderes KI-System nur so gut sein kann, wie die Daten, die zur Verf√ľgung gestellt werden. Das bedeutet, dass die Anwendung automatisch besser wird und funktioniert, wenn man qualitativ hochwertige und ausgewogene Daten zur Verf√ľgung stellt. Das minimiert auch die gro√üe Gefahr der Diskriminierung beispielsweise durch veralte Datens√§tze.

Besonders wichtig ist, dass die KI, bzw. der Chatbot lediglich Daten verwendet, die von den Mitarbeitenden ebenfalls eingesehen werden können. Durch eine fehlende Transparenz entsteht ein Machtgefälle, welches schnell auch mit einem Machtmissbrauch einhergeht. Den Missbrauch der Daten und die Überwachung der Mitarbeitenden bei einem unvorsichtigen Gebrauch einer KI gilt es in jedem Fall zu verhindern.

Worauf muss bei der Verwendung von k√ľnstlicher Intelligenz besonders geachtet werden?

Grunds√§tzlich gilt, dass immer beantwortbar sein sollte, woher die Daten kommen, die von einem Chatbot oder einer KI verwendet werden. Zu jedem Zeitpunkt sollte f√ľr alle Beteiligten klar sein, welche Daten verwendet werden, wie sie verarbeitet werden, wie alt die verwendeten Daten sind sowie wo und wann sie durch eine menschliche Instanz √ľberpr√ľft werden.

Fehler k√∂nnen in allen Unternehmensbereichen passieren. Dennoch ist es besonders bei der Verwendung einer k√ľnstlichen Intelligenz einer externen Herstellungsfirma wichtig, rechtliche Dinge, wie die Rechenschaftspflicht, abzukl√§ren. Kann bei einer Fehlprogrammierung die Herstellungsfirma zur Rechenschaft gezogen werden? Wie k√∂nnen sich Arbeitgebende im Falle von gravierenderen Fehlfunktionen absichern? Solche Fragen sollten bei der Auswahl einer entsprechenden Anwendung unbedingt beachtet werden.

Was zu jeder Zeit pr√§sent sein sollte, sind die Grenzen von KI-basierten Anwendungen. Die Zuverl√§ssigkeit und das Leistungsniveau sollten nicht √ľbersch√§tzt werden. Einfachere Aufgaben, wie das automatisierte Antworten auf Standardanfragen im Chatbot-Bereich, k√∂nnen zur Entlastung der HR-Abteilung meist problemlos in den Arbeitsalltag integriert werden, aber auch in diesen Bereichen ist es wichtig, regelm√§√üige und gewissenhafte Qualit√§tskontrollen durchzuf√ľhren.

Zusammenfassung

Zur Entlastung der Mitarbeitenden in den Personalabteilungen lohnt sich definitiv ein Blick auf KI-basierte Anwendungen. Wie diese m√∂glichst effektiv in den Arbeitsalltag eingebunden werden k√∂nnen, wird in dem dazugeh√∂rigen Blogbeitrag erkl√§rt. Es muss jedoch vor allem auf die Qualit√§t und den Schutz der verwendeten Daten geachtet werden, um Gefahren und Risiken vorzubeugen. Regelm√§√üige √úberpr√ľfungen bez√ľglich der Aktualit√§t und Rechtssicherheit der verwendeten Daten sind unabdingbar f√ľr einen effizienten Gebrauch von Chatbots und anderen KI-basierten Anwendungen. Absolute Transparenz steht bei der Anwendung an oberster Stelle, damit jede beteiligte Person zu jeder Zeit wei√ü, welche sensiblen Daten verwendet werden. Au√üerdem muss unbedingt festgelegt werden, was im Falle einer Fehlfunktion der Anwendung auch von den Herstellungsfirmen zu erwarten ist.

Besonders wichtig ist es, die M√∂glichkeiten von k√ľnstlicher Intelligenz nicht zu √ľbersch√§tzen. Je einfacher die Aufgabe ist, die ein Chatbot oder eine KI-Anwendung √ľbernehmen soll, desto zuverl√§ssiger sind die dabei entstehenden Ergebnisse.

arrow-up icon