Problemet
Under et tilsyn er det tallene, der tæller: hvor godt AI'en overholder jeres regler, og på hvilke sager.
Det er værd at vide af to grunde. Dels vil I gerne have, at de regler, I har sat op for
systemet, faktisk bliver fulgt. Det er jo hele pointen med dem. Dels skal I kunne
dokumentere det: AI-forordningen kræver, at I kan deklarere jeres models nøjagtighed
og robusthed (art. 15) og vise løbende risikostyring (art. 9).
Systemer følger ofte deres egne regler dårligere, end man tror. Også dem, der er bygget
til at følge dem. Man ser det ikke, før det bliver målt.
Vores opgave er at gøre det målbart: hvor godt jeres AI overholder jeres regler, og papiret
der beviser det.