Informasjonskommissærens kontor (ICO) undersøker for tiden muligheten for å revidere kunstig intelligens (AI)-systemer fra et databeskyttelses- og personvernperspektiv. Tanken bak dette er å sikre at disse systemene håndterer personopplysninger på en rettferdig, transparent og sikker måte, i samsvar med prinsippene fastsatt i Storbritannias Data Protection Act 2018 (DPA 2018).
ICO ser på ulike tilnærminger for revisjon av AI-systemer. En mulig metode er å bruke automatiserte verktøy for å vurdere systemets samsvar med relevante databeskyttelses- og personvernforskrifter. Disse verktøyene kan analysere databehandlingsoperasjonene som utføres av AI-systemet, identifisere potensielle risikoer for personopplysninger og foreslå utbedringstiltak. Denne tilnærmingen kan være spesielt nyttig i tilfeller der AI-systemet er komplekst og involverer store mengder personopplysninger.
En annen tilnærming er å gjennomføre en manuell revisjon av AI-systemet. Dette involverer en menneskelig revisor som undersøker systemets design, implementering og operasjonelle prosesser for å identifisere databeskyttelse og personvernrisiko. Manuelle revisjoner er ofte mer grundige og kan avdekke problemer som automatiserte verktøy kanskje ikke kan oppdage. Imidlertid kan de også være mer tidkrevende og kostbare.
ICO vurderer også en kombinasjon av automatiserte og manuelle revisjonsmetoder, slik at organisasjoner kan dra nytte av styrken til begge tilnærmingene. Dette kan oppnås ved å bruke automatiserte verktøy for å identifisere potensielle databeskyttelses- og personvernrisikoer, etterfulgt av manuelle revisjoner for å validere og undersøke disse risikoene videre.
ICOs arbeid med å revidere AI-systemer er fortsatt i sine tidlige stadier, og den endelige tilnærmingen vil sannsynligvis avhenge av faktorer som kompleksiteten til AI-systemet, volumet av personopplysninger som behandles og organisasjonens ressurser. Ved å utvikle veiledning og beste praksis for revisjon av AI-systemer, har ICO som mål å hjelpe organisasjoner med å overholde databeskyttelses- og personvernlover samtidig som den fremmer innovasjon og ansvarlig bruk av AI-teknologi.
