Parlament Europejski, w rezolucji przyjętej 11 lutego 2020, wzywa do ustanowienia silnego zestawu praw w celu ochrony konsumentów, w kontekście sztucznej inteligencji i zautomatyzowanego podejmowania decyzji (za European Parliament News).
Rezolucja dotyczy kilku wyzwań wynikających z szybkiego rozwoju technologii sztucznej inteligencji (AI) i zautomatyzowanego podejmowania decyzji (ADM), ze szczególnym uwzględnieniem ochrony konsumenta.
„Ludzie zawsze muszą być ostatecznie odpowiedzialni za decyzje podejmowane w kontekście profesjonalnych usług, takich jak zawody medyczne, prawnicze i księgowe, a także w sektorze bankowym”, podkreślają posłowie.
Parlament dostrzega potencjał ADM w zakresie dostarczania innowacyjnych i ulepszonych usług konsumentom, w tym nowych usług cyfrowych, takich jak wirtualni asystenci i chatboty. Jednak wchodząc w interakcje z systemem automatyzującym podejmowanie decyzji, należy „być odpowiednio poinformowany o tym, jak on działa, o tym, jak dotrzeć do człowieka posiadającego uprawnienia decyzyjne oraz o tym, jak można sprawdzać i poprawiać decyzje systemu”. Jednak systemy te powinny używać wyłącznie wysokiej jakości i obiektywnych zestawów danych oraz „wyjaśnialnych i obiektywnych algorytmów”. Należy również ustanowić odpowiednie procedury kontrolne, aby zapobiegać możliwym błędom w zautomatyzowanych decyzjach. Konsumenci powinni mieć również możliwość dochodzenia zadośćuczynienia za automatyczne i ostateczne decyzje.
Parlament wzywa do opracowania systemu oceny ryzyka dla sztucznej inteligencji i ADM oraz wspólnego unijnego podejścia, które pomoże zabezpieczyć korzyści z tych procesów i zmniejszyć ryzyko w całej UE.
Zgodnie z prawem UE przedsiębiorcy muszą informować konsumentów, kiedy cena towarów lub usług została spersonalizowana na podstawie ADM i profilowania zachowań konsumenckich – przypominają posłowie, prosząc Komisję o ścisłe monitorowanie wdrażania tych przepisów. UE musi również zadbać o to, by ADM nie była nadmiernie wykorzystywana do dyskryminowania konsumentów ze względu na ich narodowość, miejsce zamieszkania lub czasową lokalizację.
Rezolucja, została przekazana Radzie UE (państwom członkowskim) i Komisji Europejskiej, tak aby uwzględniały one opinie posłów do PE na temat sztucznej inteligencji i ADM.
