Personalvermittler ordnet seine KI-Nutzung vor der EU-KI-Verordnung

Ausgangslage

Ein Personalvermittler in Frankfurt-Niederrad, 40 Mitarbeitende und etwa 7 Millionen € Jahresumsatz, vermittelt Buchhalter und IT-Fachkräfte. Über 18 Monate hatten seine Mitarbeitenden nach und nach KI-Werkzeuge in Gebrauch genommen: einen Assistenten für Stellenanzeigen, eine Funktion zum Auslesen von Lebensläufen im Bewerbermanagementsystem, einen Chatbot auf der Website, ein Protokollwerkzeug, das Gespräche mit Kandidaten aufzeichnet, und ein Zusatzmodul, das Bewerber für eine Stelle in eine Rangfolge bringt. Niemand hatte eine Liste. Der Geschäftsführer hatte gelesen, dass KI in Einstellungsentscheidungen nach der EU-KI-Verordnung als Hochrisiko gilt, und die Einkaufsabteilung eines großen Kunden hatte gerade einen Fragebogen zur KI-Nutzung geschickt. Das Unternehmen hat eine Kanzlei auf Dauermandat und wollte die Arbeit gemeinsam mit ihr erledigen, damit die rechtliche Position trägt.

Vorgehen

Woche eins war die Bestandsaufnahme. Wir haben die Teamleiter befragt, die Verträge und Einstellungen der fünf Werkzeuge geprüft und für jedes festgehalten, was es tut, wessen Daten es berührt und wer die Nutzung entschieden hat.

Woche zwei war die Risikoeinstufung in einfachen Worten: Was entscheidet das Werkzeug, über wen und mit welchen Daten. Das Rangfolgemodul prägt Entscheidungen über Menschen bei der Einstellung, was die EU-KI-Verordnung als Hochrisiko einstuft, mit Pflichten für den Anbieter und für das nutzende Unternehmen. Die anderen vier sind niedrigeres Risiko mit leichteren Pflichten: Der Chatbot muss sagen, dass er eine Maschine ist, KI-geschriebene Anzeigen brauchen eine Prüfung, und das Protokollwerkzeug braucht die Einwilligung des Kandidaten, bevor ein Gespräch aufgezeichnet wird.

In Woche drei haben wir die KI-Nutzungsrichtlinie entworfen: welche Werkzeuge freigegeben sind, welche Daten hinein dürfen, wer ein neues Werkzeug abnimmt, wie Kandidaten informiert werden und wie ein Mensch in jeder Einstellungsentscheidung bleibt. Woche vier waren zwei Arbeitssitzungen mit der Kanzlei des Unternehmens, die die Einstufung und die Formulierungen prüfte und die rechtliche Position aufschrieb. Wir liefern die betriebliche Seite, die Anwälte verantworten die rechtliche, und der Kunde hat beides.

Ergebnis

In diesem Szenario wurden fünf Systeme erfasst und eines als Hochrisiko eingestuft.

Das Unternehmen schaltete das Rangfolgemodul ab, bis der Anbieter seine Konformitätsnachweise vorlegen kann, und nutzt das Auslesen von Lebensläufen nur noch zur Datenübernahme, ohne Bewertung. Der Chatbot bekam einen Hinweissatz, das Protokollwerkzeug einen Einwilligungsschritt. Alle 40 Mitarbeitenden unterschrieben die Richtlinie nach einer einstündigen Einweisung in Woche fünf. Der Kundenfragebogen wurde vollständig beantwortet, und die Vorbereitungsliste mit Terminen für die Hochrisikopflichten ging an die Kanzlei, die sie aktuell hält.

Was es gekostet hat

Das Paket KI-Governance & Vorbereitung kostete 6.500 €, als Festpreis angeboten, bevor die Arbeit begann. Dafür gab es die Bestandsaufnahme von bis zu fünf Systemen, die Risikoeinstufung, die KI-Nutzungsrichtlinie, die Vorbereitungsliste und zwei Arbeitssitzungen mit der Kanzlei. Die Honorare der Kanzlei und Lizenzen für Werkzeuge sind Fremdleistungen und nicht enthalten. Die Arbeit war durch unsere 100-Prozent-Geld-zurück-Garantie abgedeckt: volle Erstattung auf Wunsch innerhalb von 14 Tagen nach Lieferung.

Jeder Festpreisauftrag trägt die 100-Prozent-Geld-zurück-Garantie. So funktioniert die Garantie →