Teknologi og kunstig intelligens

Identifiser produkt, modell, versjon, funksjon, integrasjon, brukargruppe, geografisk område og tidsrom.

Dokumenter problemet systemet skal løysa, kvifor teknologi eller KI er vald, og kva mindre inngripande alternativ som finst.

Kartlegg utviklar, dataleverandør, modellleverandør, integrator, kjøpar, operatør, avgjerdstakar og kontrollorgan.

Identifiser kven som vert analysert, klassifisert, prioritert, påverka eller ekskludert, også personar som ikkje er direkte brukarar.

Fastset kva output kan utløysa, kva rettar, tilgangar, ressursar eller handlingar som kan endrast, og kor alvorleg konsekvensen er.

Dokumenter design, testing, utrulling, oppdatering, monitorering, avvik, tilbaketrekking og avslutting.

Registrer teknisk, fagleg, juridisk og etisk kompetanse, økonomiske interesser og behov for uavhengig kontroll.

Peik ut kven som eig føremål, data, modell, utrulling, enkeltsak, klage, korrigering og endeleg avgjerd.

Dokumenter opphav, innsamlingsmåte, tidspunkt, lisens, tilgang og endringar for relevante data.

Prøv om dataa er eigna for det konkrete formålet og den aktuelle populasjonen eller situasjonen.

Kartlegg kven og kva som er representert, underrepresentert, overrepresentert eller heilt fråverande.

Dokumenter kven som merkte data, kva definisjonar som vart brukte, usemje, feilrate og endringar.

Gjer filtrering, deduplisering, normalisering, syntetisering, imputering og avleidde variablar sporbare.

Prøv feil, manglande verdiar, kopiar, felles kjeldeopphav, tidslekkasje og samanblanding mellom trening og test.

Registrer personvern, opphavsrett, samtykke, teieplikt, sikkerheit, bruksvilkår og rett til sletting eller innsyn.

Fastset korleis feil vert retta i kjelde, avleidde datasett, modell, output og system som har motteke dataa.

Dokumenter modelltype, versjon, parameter, treningsprosess, bibliotek, leverandør og kjende avgrensingar.

Gjer synleg kva signal, tapsfunksjon eller forretningsmål modellen vert optimalisert mot, og kva føremål dette berre representerer indirekte.

Vel mål som svarar til bruk og feilkonsekvens, og rapporter ikkje berre gjennomsnitt der undergrupper eller sjeldne hendingar er avgjerande.

Skil intern testing, ekstern testing, prospektiv testing, robustheit, stresstest og faktisk verknad etter utrulling.

Dokumenter korleis skår og sannsyn svarar til faktisk frekvens, og korleis uvisse vert vist til brukaren.

Fastset kva populasjonar, språk, miljø, oppgåver og tidsperiodar modellen er prøvd for, og når han ikkje skal brukast.

Prøv relevante alternative modellar, tersklar, feature-val og antakingar der desse kan endra konklusjonen.

Overvak endra data, åtferd, feilrate, misbruk, oppdateringar og skilnad mellom testmiljø og faktisk bruk.

Dokumenter om systemet informerer, anbefaler, prioriterer, avviser, godkjenner eller sjølv utløysar tiltak.

Gjer tersklar, unntak, manuelle reglar og konsekvensen av ulike output synlege for ansvarlege roller.

Prøv om mennesket har tid, kompetanse, informasjon og fullmakt til å avvika frå output utan urimeleg kostnad eller sanksjon.

Fastset om saka inneheld opplysningar modellen ikkje kan representera, og korleis desse vert vurderte før avgjerd.

Skil teknisk forklaring av output frå den faglege, juridiske eller normative grunngjevinga for avgjerda.

Identifiser ein person eller funksjon som eig den endelege avgjerda, kontradiksjonen og korrigeringa.

Gje ei reell rute der faktum, kategori, modelloutput, regelbruk og avgjerd kan prøvast på nytt.

Spor korleis skår og kategori vert lagra, delte og gjenbrukte, og korleis feil vert fjerna frå seinare avgjerder.

Gjer synleg når materiale er heilt eller delvis generert, og skil output frå registrert kjelde, simulering og menneskeleg vurdering.

Verifiser sitat, namn, tal, lenkjer, rettsreglar, fagpåstandar og andre etterprøvbare element mot faktiske kjelder.

Dokumenter relevant systeminstruks, brukarinput, henta dokument, verktøybruk og avgrensingar der dette er nødvendig for å forstå outputen.

Test om språkleg flyt, sikker tone eller detaljnivå skjuler manglande grunnlag, motseiing eller oppdikta kjelder.

Vurder rettar og vern knytte til input, treningsmateriale, stilimitasjon, persondata, stemme, bilete og output.

Hindre at generert portrett, stemme, sitat eller rolle vert presentert som ein faktisk person eller hending utan klår merking og grunnlag.

Identifiser kven som valde, redigerte, publiserte og tok ansvar for den konkrete bruken.

Gjer materiell feil synleg, oppdater avleidde dokument og registrer kva outputversjon som vart brukt i ei avgjerd eller publisering.

Identifiser skade, misbruk, motstandarar, utilsikta bruk, avhengigheiter og personar eller system som kan råkast.

Prøv normale, ekstreme, sjeldne og fiendtlege situasjonar som er relevante for bruken.

Avgrens data, modell, verktøy, administratorrettar og farlege funksjonar etter nødvendig rolle og sporbar bruk.

Definer sikker fallback, menneskeleg overstyring, isolering, varsling og høve til rask stans eller tilbakeføring.

Registrer feil, nesten-hendingar, misbruk, brot, skade og uventa effekt med ansvar og tidsnær oppfølging.

Følg yting, endra data, undergrupper, sikkerheitsbrot, klagar, overstyringar og faktiske verknader.

Kartlegg tredjepartsmodellar, bibliotek, skytenester, oppdateringar, avhengigheiter og varsling om sårbarheiter.

Bruk ekstern eller skild kontroll der konsekvens, eigeninteresse, kompleksitet eller manglande innsyn gjer intern vurdering utilstrekkeleg.

Samla og bruk berre data som er relevante og nødvendige for det dokumenterte formålet.

Gje berørte personar forståeleg informasjon om systembruk, datakategoriar, konsekvens og ansvarleg aktør.

Fastset kva data, output, logg, regel og grunngjeving den berørte kan få tilgang til innanfor lovlege grenser.

Gjer det mogleg å korrigera kjeldedata, kategori, attribusjon og avleidde konsekvensar i heile kjeda.

Prøv feilrate, tilgang og konsekvens for relevante grupper utan å gjera gruppeanalyse til ein totaldom over individet.

Vurder språk, funksjonsevne, digital tilgang, kompetanse og alternative kanalar for dei systemet ikkje tener.

Vern spørsmål, reservasjon, klage og krav om menneskeleg vurdering mot negative klassifikasjonar utan sjølvstendig grunnlag.

Sørg for at ein kompetent aktør kan endra avgjerda, retta data og stansa vidare bruk, ikkje berre forklara systemet.

Rett feilen der han oppstod og spor konsekvensar gjennom data, modell, system, avgjerd, register og berørte personar.

Stans, avgrens eller legg inn menneskeleg kontroll når uvissa eller konsekvensen gjer vidare bruk uforsvarleg.

Dokumenter versjon, endringsgrunn, test, godkjenning, utrulling og kva tidlegare resultat som må prøvast på nytt.

Rett data, kategori, avgjerd, tilgang og andre konkrete verknader for personar som vart råka av dokumentert feil.

Fastset ansvar mellom leverandør og brukarorganisasjon utan at kontrakt eller teknisk kompleksitet gjer ansvarslinja tom.

Bruk uavhengig kontroll ved høg risiko, store asymmetriar, manglande innsyn eller alvorleg konsekvens.

Prøv om rettinga faktisk reduserer feilen utan å skapa ny skade, utestenging, tryggingssvikt eller målforskyving.

Definer vilkår for lukking, ny vurdering, rollback, utfasing, datasletting og bevaring av nødvendig revisjonsspor.