1.10.1 Normbaserad design

Digitala samhällsfunktioner utformas ofta för en tänkt genomsnittlig användare, med ett stabilt liv, en vanlig familjesituation och god digital vana. Den vars liv eller förmåga inte stämmer med bilden kan inte använda tjänsten eller beskriva sin situation korrekt. Svårigheten uppfattas då som den enskildes brist och inte som en följd av hur tjänsten är utformad. Samma mekanism finns i AI-system som tränas på data som speglar befintliga ojämlikheter.

En situation

Ett digitalt formulär utgår från att ett barn bor på en adress. En familj med växelvis boende kan inte beskriva sin situation korrekt.

Utgångspunkter enligt lag

Förvaltningslag (2017:900) 6 § anger att en myndighet ska se till att kontakterna med enskilda blir smidiga och enkla, och att hjälpen ska ges med hänsyn till bland annat den enskildes behov av hjälp.

Diskrimineringslag (2008:567) 1 kap. 4 § anger vad som är diskriminering. Indirekt diskriminering är att någon missgynnas genom en bestämmelse, ett kriterium eller ett förfaringssätt som framstår som neutralt men som kan komma att särskilt missgynna personer med en viss diskrimineringsgrund, om det inte har ett berättigat syfte och medlen är lämpliga och nödvändiga. 2 kap. anger var diskriminering är förbjuden, bland annat i socialförsäkringssystemet (14 §).

Dataskyddsförordningen (EU) 2016/679 art. 5.1 d anger att personuppgifter ska vara korrekta och om nödvändigt uppdaterade.

AI-förordningen (EU) 2024/1689 art. 10 anger att data som används för att träna AI-system med hög risk ska undersökas för möjliga snedvridningar.

DigidelGov sammanfattar läget

Den som inte passar in i tjänstens antaganden upptäcker det ofta först när tjänsten inte fungerar. Svårigheten uppfattas då som den enskildes brist, och indirekt diskriminering är ofta osynlig för den drabbade. För AI-system krävs dessutom tillgång till systemets logik och träningsdata för att granska det, och AI-förordningens krav på system med hög risk börjar gälla först i december 2027.

Bakgrund och fakta

Ansvar och vägar vidare

Vägledning för den enskilde

  • Myndigheten som ansvarar för tjänsten (hjälp och vägledning, 6 § förvaltningslagen)
  • Integritetsskyddsmyndigheten (frågor och klagomål om behandling av personuppgifter)
  • Diskrimineringsombudsmannen (anmälan om misstänkt diskriminering)

Vägledning för utförare

  • Myndigheten för delaktighet (vägledning om universell utformning)
  • Diskrimineringsombudsmannen (stöd till myndigheter om risker för diskriminering vid AI och automatiserat beslutsfattande)
  • Integritetsskyddsmyndigheten (vägledning om dataskydd)
  • Myndigheten för digital förvaltning (vägledning om AI och automatisering i offentlig sektor)

Klagoväg

Förvaltningsrätten (överklaga beslut)

Granskande aktörer

  • Integritetsskyddsmyndigheten (tillsyn enligt dataskyddsförordningen)
  • Diskrimineringsombudsmannen (tillsyn enligt diskrimineringslagen)
  • Justitieombudsmannen (granskar enskilda fall av myndighetsutövning)

Version 2.0. Det här är en granskningsversion. Innehållet kan ändras innan ramverket är färdigt. Innehållet uppdaterades .