24. Fördjupning: AI-Förordningen

Vissa AI-användningar på arbetsplatsen är förbjudna, till exempel:

• Känsloigenkänning, med undantag för vissa medicinska eller säkerhetsrelaterade ändamål.

• AI som manipulerar anställda genom subtila eller vilseledande tekniker som kan orsaka betydande skada.

• AI som utnyttjar sårbarheter relaterade till ålder, funktionshinder eller socioekonomiska omständigheter för att snedvrida beteendet, vilket orsakar betydande skada.

Många AI-system som används inom personalhantering (HR) klassas som högrisk-AI och ställs därmed under stränga krav. Detta inkluderar system som används för:

• Rekrytering och urval - Att analysera ansökningar, filtrera kandidater eller utvärdera sökande.

• Beslut som påverkar anställningsförhållandet - Att fatta beslut om befordran, uppsägning, eller att fastställa villkor för arbetsrelaterade relationer.

• Övervakning och utvärdering - System som tilldelar uppgifter baserat på individuella beteenden eller personliga egenskaper, eller som övervakar och utvärderar prestationer och beteenden.

• De anställda informeras om att ett högrisk-AI-system används och hur det fungerar. Även fackliga representanter ska informeras.

• Det finns möjlighet till mänsklig tillsyn. Det betyder att påverkade personer ska kunna bestrida automatiserade beslut och kräva att en människa granskar beslutet.

• Säkerställa att systemen används på ett sätt som minskar risken för bias och diskriminering (t.ex. genom att säkerställa att träningsdatan är relevant och representativ).