Cyber, data & AI

AI-systeem (artificiële intelligentie)

Een AI-systeem is een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken, na het inzetten aanpassingsvermogen kan vertonen en voor expliciete of impliciete doelstellingen uit de ontvangen input afleidt hoe het output genereert, zoals voorspellingen, inhoud, aanbevelingen of beslissingen die fysieke of virtuele omgevingen kunnen beïnvloeden. Dit is de definitie van artikel 3 punt 1 AI-verordening. Dat inferentievermogen onderscheidt het van software die alleen door mensen vastgelegde regels uitvoert.

Bron: Verordening (EU) 2024/1689 (AI-verordening) artikel 3 punt 1, 3 en 4 en overwegingen 12, 97 en 99; OESO, AI-beginselen (2019, bijgewerkt mei 2024)

De definitie bepaalt de reikwijdte van de AI-verordening (Verordening (EU) 2024/1689). Overweging 12 noemt het inferentievermogen het belangrijkste kenmerk: het systeem leidt uit input of data zelf modellen of algoritmen af, met machinaal leren of met op logica en kennis gebaseerde technieken. Systemen die alleen regels uitvoeren die uitsluitend door natuurlijke personen zijn vastgesteld, vallen erbuiten. Autonomie betekent een zekere onafhankelijkheid van menselijke betrokkenheid; aanpassingsvermogen betekent dat het systeem tijdens het gebruik kan veranderen doordat het zelf leert. De verordening wil aansluiten op het werk van internationale organisaties, en de definitie in de AI-beginselen van de OESO (2019, bijgewerkt in mei 2024) is vrijwel gelijkluidend.

Voor bestuur en raad van commissarissen is de definitie het startpunt van de AI-inventaris. Pas als vaststaat welke toepassingen AI-systemen zijn, kan de organisatie per systeem haar rol bepalen, als aanbieder of als gebruiksverantwoordelijke (artikel 3 punt 3 en 4), en de risicocategorie vaststellen. Ingekochte AI en AI die in andere software is ingebouwd, horen in die inventaris thuis. In de financiële sector zijn systemen voor de kredietwaardigheid of kredietscore van natuurlijke personen en voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen hoog risico (bijlage III punt 5); de verplichtingen daarvoor gelden vanaf 2 december 2027.

Een AI-systeem is iets anders dan een AI-model. Volgens overweging 97 is een model een essentieel onderdeel van een AI-systeem, maar wordt het pas een systeem als er andere componenten bijkomen, zoals een gebruikersinterface. Ook is niet elk rekenmodel uit het modelrisicobeleid een AI-systeem: een model zonder inferentievermogen valt buiten de definitie. Wie beoordeelt of een toepassing onder de verordening valt, legt die afweging per systeem vast.

Laatst bijgewerkt: · Redactie: ONE Risk Advisory

Veelgestelde vragen

Is elke software met algoritmen een AI-systeem?

Nee. Volgens overweging 12 van de AI-verordening vallen systemen die alleen regels uitvoeren die uitsluitend door mensen zijn vastgesteld, buiten de definitie. Bepalend is of het systeem zelf uit input afleidt hoe het output genereert, met machinaal leren of met op logica en kennis gebaseerde technieken. Een door mensen opgestelde beslisboom of een rekenblad met vaste formules is daarom geen AI-systeem.

Wat is het verschil tussen een AI-systeem en een AI-model voor algemene doeleinden?

Een AI-model voor algemene doeleinden kan een breed scala aan taken uitvoeren en in veel systemen worden ingebouwd; grote generatieve modellen zijn het typische voorbeeld (overweging 99). Het model is een onderdeel en wordt met onder meer een gebruikersinterface een AI-systeem. De AI-verordening kent voor beide eigen verplichtingen; die voor aanbieders van modellen voor algemene doeleinden gelden sinds 2 augustus 2025.

Geldt de AI-verordening ook als een organisatie AI alleen inkoopt en gebruikt?

Ja. Wie een AI-systeem onder eigen verantwoordelijkheid gebruikt, is gebruiksverantwoordelijke (artikel 3 punt 4) en heeft eigen plichten, zoals maatregelen om de AI-geletterdheid van het personeel te ondersteunen (artikel 4) en, bij een hoog-risicosysteem (voor bijlage III vanaf 2 december 2027), gebruik volgens de gebruiksaanwijzing en menselijk toezicht door bekwame personen (artikel 26). Gebruik in een persoonlijke, niet-beroepsmatige activiteit valt buiten het begrip gebruiksverantwoordelijke.

← Alle begrippen