MinBZK/ai-act-decisiontree

DEZE REPOSITORY IS IN ONTWIKKELING, lees de README.md. Repository voor de beslisboom op basis van de AI Act.

Beslisboom AI-Verordening bètaversie

Met deze beslisboom stel je vast of de AI-verordening geldt voor jouw overheidsorganisatie. En aan welke vereisten je dan moet voldoen.

• Deze beslisboom is een bètaversie (betekenende dat deze website in ontwikkeling is. Volgende versies ontstaan op een open manier.)
• De informatie is niet compleet en er kunnen fouten in staan.
• Je bent zelf verantwoordelijk voor de informatie die je gebruikt.
• Overleg de uitkomsten van de beslisboom met een expert.
• In de beslisboom staat alleen informatie over de rollen van de overheid als aanbieder en als gebruiksverantwoordelijke.

Voor vragen of opmerkingen over de beslisboom mail je naar: ai-verordening@minbzk.nl.

AI-act-beslisboom

Deze git repository bevat de beslisboom op basis van de AI Verordening. Het AI-validatie Team heeft deze tool ontwikkeld, maar is niet verantwoordelijk voor de juridische inhoud van de beslisboom. Voor meer informatie over het AI Validatie Team, bezoek de site van het AI-validatieteam. Voor vragen over de juridische inhoud, neem contact op met de experts via ai-verordening@minbzk.nl.

Het project omvat de volgende 2 onderdelen:

1. De beslisboom: decision-tree.yaml
2. Een frontend voor de visualisatie van de beslisboom: frontend

De Kubernetes deployment code staat bij infra

Door deze beslisboom te doorlopen, krijgt uw organisatie inzicht in de volgende vragen:

• Is er sprake van een AI-systeem, een AI-systeem voor algemene doeleinden of een AI-model voor algemene doeleinden?
• Is het systeem/model open source of niet?
• Is de AI-verordening van toepassing? Is er sprake van een uitzonderingsgrond?
• Binnen welke risicocategorie valt het AI-systeem?
• Is er sprake van een systeemrisico of transparantierisico?
• Bent u een aanbieder of een gebruiksverantwoordelijke van het AI-systeem?
• Aan welke verplichtingen moet u voldoen bij de inzet van het AI-systeem?

Om u te helpen bij het beantwoorden van de vragen, zijn relevante overwegingen / artikelen / bijlagen van de AI Verordening gelinkt per vraag.

Beslisboom componenten

De beslisboom is gevat in decision-tree.yaml. U kunt deze bekijken met elke editor die u fijn vindt.

De beslisboom heeft componenten die vastgelegd zijn in een schema. Zie schema_decision_tree.json. Dit schema zorgt ervoor dat het systeem weet welke velden verwacht worden.

De beslisboom is opgebouwd uit de volgende componenten:

version: string           # versie van decisionTree
name: string              # naam van decisionTree
questions: array(Question) # de vragen zoals gedefineerd hieronder

Question:                 # definitie van 1 vraag
  questionId: string      # een unique identifier voor de vraag
  question: string        # de vraag die gesteld wordt
  simplifiedQuestion: string  # versimpelde versie van de vraag
  category: string        # in welke categorie de vraag valt
  questionType: enum      # het type vraag
  description: string     # optioneel: een extra opmerking bij de vraag
  source: string          # optioneel: een verwijzing, naar bijvoorbeeld een wetsartikel
  source_url: string      # optioneel: een link naar de bovengenoemde verwijzing
  answers: array(Answer)  # de mogelijke antwoorden zoals hieronder gedefineerd

Answer:                   # definitie van 1 antwoord
  answer: string          # de text van het antwoord
  nextQuestionId: string  # optioneel: de QuestionId van de volgende vraag
  subresult: string       # optioneel: een tussenresultaat voordat naar de volgende vraag verwezen wordt
  labels: array           # optioneel: labels toegekend aan het bijbehorende tussenresultaat
  result: string          # optioneel: het eindresultaat
  answerComment: string   # optioneel: extra commentaar bij het antwoord

Conclusion:               # definitie van 1 eindconclusie
  conslusion: string      # de eindconclusie
  conclusionComment: string   #optioneel: een extra opmerking bij de conclusie
  obligation: string      # de bij de conclusie bebehorende verplichtingen uit de AI verordening
  source: string          # optioneel: een verwijzing, naar bijvoorbeeld een wetsartikel
  source_url: string      # optioneel: een link naar de bovengenoemde verwijzing

Naast de beslisboom is er ook een definitions.yaml bestand. Dit bestand bevat alle relevante definities die de beslisboom ondersteunen en extra uitleg nodig hebben, gebaseerd op de Begrippenlijst van het algoritmekader. Het verwachte schema van velden is gedocumenteerd in schema_definitions.json.

Beslisboom diagram

De beslisboom is schematisch weergegeven verschillende diagrammen:

1. een doorklikbaar diagram: in dit diagram is de beslisboom op een versimpelde manier weergeven. Dit diagram bevat de volgende componenten:

   • donkerblauwe rechthoeken: dit zijn doorklikbare componenten die doorverwijzen naar een volgende categorie uit de beslisboom.
   • lichtblauwe rechthoeken: dit zijn de 'labels' uit de beslisboom. De labels geven de karakteristieken die u door de beslisboom te doorlopen kunt verzamelen weer.
   • donkerblauwe cirkels: dit zijn de vragen uit de beslisboom. Wanneer u op een cirkel klikt, verschijnt de volledige vraag in een pop-up op het scherm. Deze kan vervolgens weer weg worden geklikt door rechtsboven op het kruisje te klikken.
   • witte hexagons met groene rand: dit zijn de conclusies uit de beslisboom. Wanneer u op een hexagon klikt, verschijnen de bij de conclusie behorende verplichtingen in een pop-up op het scherm.

   U kunt terug naar het vorige diagram door de vorige pagina-knop in uw browser te gebruiken.

2. een overzichtsdiagram: in dit diagram is de gehele beslisboom gevat. Dit diagram is niet doorklikbaar. De vragen zijn gegroepeerd categorieen, weergeven in witte rechthoeken met groene randen.

Let op: de diagrammen kunnen het beste in Chrome, Safari of Microsoft Edge worden geopend.

Frontend

Om door de beslisboom te lopen is een visualizatie tool gemaakt. Met deze tool kunt u door de vragen lopen. De frontend is beschikbaar op deze website.

Frontend locaal draaien

Om de development omgeving te standaardiseren maken we gebruik van devcontainers.

Als u in de devcontainer zit kunt u de volgende commando's uitvoeren. Voordat dit kan gaat u eerst in de frontend/ folder staan met een terminal.

Start de tool:

npm run dev

Na het starten is de tool beschikbaar op deze site

Bouwen van de frontend

We maken gebruik van containers zodat de applicatie overal gedraaid kan worden waar u containers kan draaien. Een voorbeeld hiervan in kubernetes. Voordat u dit kan doen moet men eerst docker installeren.

Om de container te bouwen kunt u het volgende doen:

docker compose build

Om de gebouwde container te starten kan u het volgende doen:

docker compose up

Nu is de website beschikbaar op deze locale site

Infra

Er is een klein stukje infra code geschreven voor kubernetes zodat de applicaties gehost kan worden. Om dit uit te kunnen voeren heeft u een kubernetes cluster nodig en kubectl. Dit instellen laten we buiten beschouwing voor deze readme. Als men het ingesteld heeft kan met het volgende commando uitvoeren.

kubectl apply -k infra/

Validatie schema

Door het volgende script te runnen, kunt u controleren of het bestand decision-tree.yaml en het bestand definitions.yaml (technisch) valide zijn. Eventuele (syntax)fouten worden hiermee aangegeven.

./script/validate --file_pairs schemas/schema_decision_tree.json:decision-tree.yaml schemas/schema_definitions.json:definitions.yaml

Pre-commit

Om pre-commit lokaal in te schakelen, voer het volgende uit:

pip install pre-commit
pre-commit install

Bij volgende commits zullen alle hooks worden uitgevoerd.

Je kunt alle hooks handmatig als volgt uitvoeren:

pre-commit run --all-files

Pre-commit runt ook als CI/CD check step voor het mergen naar main.