Sztuczna inteligencja nie może naruszać autonomii pracownika

19 lutego 2020 r. Komisja Europejska wydała Białą Księgę w sprawie sztucznej inteligencji: Europejskie podejście do doskonałości i zaufania COM (2020) 63.

W ocenie Komisji sztuczna inteligencja (AI – artificial intelligence) może przynieść wiele korzyści, w tym poprzez zwiększenie bezpieczeństwa produktów i procesów. Zarazem jednak może ona również wyrządzić szkody. Mogą one być zarówno materialne (dla bezpieczeństwa i zdrowia osób, w tym utrata życia, szkody rzeczowe), jak i niematerialne (utrata prywatności, ograniczenie prawa do wolności słowa, naruszenie godności ludzkiej, dyskryminacja związana np. z dostępem do zatrudnienia). Należy myśleć zawczasu o ramach regulacyjnych ukierunkowanych na zminimalizowanie różne rodzajów ryzyka związanego z potencjalnymi szkodami, zwłaszcza najpoważniejszymi.

Komisja jest zdania, że dane zastosowanie AI należy zasadniczo uznawać za charakteryzujące się wysokim ryzykiem w zależności od potencjalnych konsekwencji danego zastosowania, na podstawie analizy tego, czy zarówno sektor, jak i planowane zastosowanie wiążą się ze znaczącym ryzykiem, w szczególności z punktu widzenia ochrony bezpieczeństwa, praw konsumentów i praw podstawowych.

Sprawowanie nadzoru przez człowieka ma zapewnić, aby system AI nie podważał autonomii człowieka ani nie wywierał innych niekorzystnych skutków. Cel, jakim jest wiarygodna, etyczna i ukierunkowana na człowieka sztuczna inteligencja, można osiągnąć jedynie poprzez zapewnienie odpowiedniego zaangażowania człowieka w odniesieniu do zastosowań AI wysokiego ryzyka.

-Także podczas toczących się obecnie negocjacji pomiędzy EKZZ a europejską reprezentacją pracodawców  nad porozumieniem ws. digitalizacji, temat sztucznej inteligencji był ważnym obszarem. Stronie związkowej zalezało przed wszystkim na zachowaniu zasady kontroli przez człowieka procesów zarządzanych przez sztuczną inteligencję w fazie rekrutacji pracowników, ocen, promocji czy zwolnień. Kluczowe jest aby zawsze pracownik mógł odwołac się od „decyzji” podjetej przez AI – komentuje Barbara Surdykowska z Biura Eksperckiego KK.

Komisja Europejska wskazuje, że konieczne jest utworzenie europejskiej struktury zarządzania w zakresie sztucznej inteligencji w formie ram współpracy właściwych organów krajowych, aby uniknąć rozdrobnienia odpowiedzialności, zwiększyć zdolności w państwach członkowskich i zapewnić, by Europa stopniowo uzyskała zdolności niezbędne do testowania i certyfikacji produktów i usług opartych na sztucznej inteligencji. Europejska struktura zarządzania mogłaby mieć różne zadania – stanowić forum regularnej wymiany informacji i najlepszych praktyk, określać pojawiające się tendencje czy też doradzać w zakresie działalności normalizacyjnej i certyfikacji. Powinna również odgrywać kluczową rolę w ułatwianiu wdrażania ram prawnych, np. poprzez wydawanie wytycznych i opinii lub zapewnianie wiedzy fachowej.

Wydanie Białej księgi jest częścią konsultacji publicznych  dotyczących potrzeb regulacyjnych w obszarze sztucznej inteligencji które trwają do 19 maja.

Tekst Białej Księgi

bs