Prezes Urzędu Ochrony Danych Osobowych apeluje o podjęcie pracy nad przepisami zapewniającymi dodatkową ochronę przed dyskryminacją kandydatów i pracowników przez systemy sztucznej inteligencji stosowane w procesach rekrutacyjnych. Wytrenowanie tych systemów na danych konkretnych osób może bowiem prowadzić do dyskryminowania niektórych kandydatów, stwarzając przy tym zagrożenie dla przetwarzanych przez pracodawcę wrażliwych danych osobowych.
Kłopotliwa "pamięć" sztucznej inteligencji
We wniosku skierowanym do Ministra Pracy, Rodziny i Polityki Społecznej Prezes UODO Michał Wróblewski poinformował o konieczności podjęcia odpowiednich działań w związku z coraz częstszym posługiwaniem się narzędziami sztucznej inteligencji (AI) w procesach rekrutacyjnych. Narzędzia te wymykają się dotychczasowym regulacjom, w tym antydyskryminacyjnym przepisom kodeksu pracy (k.p.). Poszczególne modele AI są bowiem zdolne do przetwarzania ogromnej liczby informacji, zapamiętując więcej danych konkretnego kandydata niż te, których pracodawca może żądać na podstawie art. 221 k.p. Zapamiętywanie takich informacji służy "trenowaniu" narzędzia, które może potencjalnie powielać zapisane w pamięci algorytmu uprzedzenia. Stanowi to poważne zagrożenie dla wielu osób ubiegających się o pracę, które mogą spotkać się z odmową wyłącznie w oparciu o zautomatyzowane przetwarzanie danych przez model bazujący na pewnych uprzedzeniach.
Decyzja oparta na AI? Jej adresat ma prawo wiedzieć więcej
Prezes UODO zwrócił uwagę na art. 86 ust. 1 rozporządzenia o sztucznej inteligencji (AI Act), które umieszcza narzędzia AI wykorzystywane w procesach rekrutacji wśród instrumentów wysokiego ryzyka. Zgodnie z przyjętymi przepisami, osoba będąca przedmiotem szczególnie ważnej decyzji podjętej przez podmiot wykorzystujący AI ma prawo do uzyskania jasnego i merytorycznego wyjaśnienia roli takiego narzędzia w procedurze podejmowania decyzji oraz jej głównych elementów.
Michał Wróblewski podkreślił, że wprowadzenie przepisów regulujących stosowanie systemów AI w procesie zatrudnienia musi być powiązane z oceną przewidywanych skutków dla ochrony danych osobowych. Będzie to niezbędne dla zdefiniowania ryzyka, a także rozstrzygnięcia, czy przyjmowane rozwiązania będą należycie chronić prawa i wolności osób, których dotyczy problem. Prace nad nowymi regulacjami mają mieć na celu doprowadzenie do sytuacji, w której pracownik czy kandydat wie o stosowaniu narzędzi AI w swojej sprawie oraz o sposobie działania modelu wspomagającego pracę rekrutera. Prezes UODO zadeklarował resortowi wsparcie w analizie propozycji przepisów pod kątem ich zgodności z już obowiązującymi regulacjami.
Źródło: Urząd Ochrony Danych Osobowych