EU-Kommissionen har fremlagt et forslag til en forordning om harmoniserede regler for kunstig intelligens, som har til formål at fremme udviklingen og anvendelsen af sikker og lovlig AI, der respekterer de grundlæggende rettigheder og Unionens værdier. Forslaget følger en risikobaseret tilgang og fastlægger forskellige krav og forpligtelser for AI-systemer afhængigt af deres potentiale for at skabe skade eller negative konsekvenser for enkeltpersoner eller samfundet.

Forslaget indfører fire kategorier af AI-systemer: forbudt praksis, højrisikosystemer, begrænset risikosystemer og minimal risikosystemer. Forbudt praksis omfatter AI-systemer, der manipulerer mennesker eller udnytter deres sårbarheder, sociale pointsystemer og biometrisk fjernidentifikation i realtid på offentlige steder til retshåndhævelsesformål med visse undtagelser. Højrisikosystemer omfatter AI-systemer, der anvendes i kritiske sektorer som sundhed, transport, uddannelse og retsvæsen, og som kan have betydelige konsekvenser for menneskers sundhed, sikkerhed eller grundlæggende rettigheder. Begrænset risikosystemer omfatter AI-systemer, der kan påvirke brugernes adfærd eller valgmuligheder, såsom chatbots eller dyb forfalskning. Minimal risikosystemer omfatter alle andre AI-systemer, der ikke er omfattet af de øvrige kategorier.

Forslaget fastsætter forskellige regler for hver kategori af AI-systemer. Forbudt praksis er underlagt et generelt forbud og strafferetlige sanktioner. Højrisikosystemer er underlagt strenge krav til gennemsigtighed, kvalitet, overvågning og dokumentation. Begrænset risikosystemer er underlagt krav om gennemsigtighed og information til brugerne. Minimal risikosystemer er ikke underlagt særlige krav, men skal overholde den eksisterende EU-lovgivning.

Forslaget supplerer desuden den eksisterende EU-lovgivning om ikkeforskelsbehandling med specifikke krav, der har til formål at minimere risikoen for algoritmisk forskelsbehandling, navnlig i forbindelse med udformningen og kvaliteten af de datasæt, der anvendes til udvikling af AI-systemer, suppleret med krav om testning, risikostyring og menneskelig kontrol.