Interview met Dr. Jan De Bruyne (KU Leuven Centre for IT & IP Law (CiTiP)): de regulering van artificiële intelligentie en buitencontractuele aansprakelijkheid: stand van zaken en aandachtspunten

Kun je jezelf kort even voorstellen?

Jan De Bruyne: “Na mijn rechtenstudie aan de UGent behaalde ik een doctoraat in het aansprakelijkheidsrecht. Momenteel ben ik actief als onderzoeksexpert AI en aansprakelijkheidsrecht (en meer specifiek buitencontractuele aansprakelijkheid) aan het KU Leuven Centre for IT & IP Law (CiTiP). Daarnaast ben ik als senior onderzoeker verbonden aan de Vlaams Kenniscentrum Data & Maatschappij, met een focus op juridisch-ethische uitdagingen rond AI voor bedrijven, middenkader en overheden.

Ik ben ook vrijwillig medewerker aan de UGent en spreker op diverse seminaries, events en webinars over AI-gerelateerde thema’s, onder andere voor Confocus. Ten slotte ben ik (co-)editor en (co-)auteur van diverse boeken over AI, zoals Artificial Intelligence and the Law, AI en maatschappij (waarbij de opbrengst integraal naar DIGIDAK gaat, een vzw die zich inzet voor digitale inclusie) en de maatschappelijke impact van autonome motorvoertuigen.”

Laat ons starten met een beknopte situering van AI en toepassingsmogelijkheden. Wat is volgens jou een correcte definitie van artificiële intelligentie?

JDB: “Artificiële of kunstmatige intelligentie wordt vaak gedefinieerd als de mogelijkheid van een machine om mensachtige vaardigheden te vertonen, zoals leren, redeneren, plannen en creatief ontwerpen. De term ‘artificiële intelligentie’ is de voorbije jaren een containerbegrip geworden. In de realiteit moeten we een onderscheid maken tussen verschillende soorten AI.

Zo houden we bijvoorbeeld rekening met expertensystemen versus machine learning. Bij expertensystemen wordt kennis top-down in het systeem ingebouwd. Een voorbeeld hiervan is een arts die zijn medische kennis in een machine input om op die manier ziektes efficiënter te kunnen opsporen. Bij machine learning gaat het om een ‘data driven’ bottom-up-benadering, waarbij machines op basis van data patronen herkennen en zelf kunnen leren. Binnen machine learning geldt trouwens nog een verdere opsplitsing in gesuperviseerd leren, ongesuperviseerd leren, enzovoort. Bij machine learning is het essentieel dat de data – die als ‘grondstof’ dienen – van optimale kwaliteit zijn. Als dit niet zo is, ontstaat er zogenaamde ‘bias’. Dit kan tot ongewenste en/of gevaarlijke resultaten leiden.

Een ander onderscheid bij artificiële intelligentie is de opsplitsing tussen zwakke en algemene AI. In het eerste geval gaat het om machines of apparaten die één specifieke taak heel goed kunnen uitvoeren, zoals bijvoorbeeld gezichtsherkenning, schaken of autonoom rijden. Algemene AI speelt zich af op een hoger niveau, met de ambitie om dingen te realiseren die de mens kan. Maar hier is nog heel wat werk aan de winkel. In dat stadium zijn we dus nog niet.”

En wat zijn voorbeelden van bekende en minder voor de hand liggende toepassingen?

JDB: “AI is niet langer de technologie van de toekomst, maar wordt vandaag al volop ingezet in tal van toepassingen. Bekende voorbeelden zijn het Internet of Things (IoT) waarbij dagelijkse gebruiksvoorwerpen en toestellen met het internet verbonden zijn, (deels) zelfrijdende wagens (dus met ingebouwde autonome systemen), vertaalsoftware en AI systemen in bedrijven en ziekenhuizen. Maar artificiële intelligentie wordt ook steeds meer gebruikt voor stemherkenning (waarbij de stem van een machine nauwelijks te onderscheiden is van een menselijke stem), fraudedetectie, het verbeteren van sportprestaties, in de bouwsector en voor slimme landbouwtoepassingen. Bedrijven kunnen nieuwe technologieën inzetten voor bedrijfsoptimalisatie, consumententargetting en contractmanagement. In vele sectoren – van ziekenhuizen tot bedrijven – kan AI dus een meerwaarde bieden.”

“Een eenduidige definitie van artificiële intelligentie bestaat eigenlijk niet. AI heeft vele facetten en kan voor een brede waaier van toepassingen ingezet worden.”

Hoever staat het met AI-regulering op Europees vlak?

JDB: “Voor Europese beleidsmakers is kunstmatige intelligentie momenteel een hot topic. Op 21 april 2021 publiceerde de Europese Commissie haar langverwachte voorstel van AI-wetgeving. Dat voorstel bouwt verder op het in februari 2020 gepubliceerde  AI-witboek. In het voorstel van wetgeving worden een aantal AI-applicaties verboden en wordt een risicogebaseerde aanpak voorgesteld, waarbij een onderscheid wordt gemaakt tussen hoge- en lagerisico-AI-systemen. De komende jaren zullen het Europees Parlement en de lidstaten ook input kunnen geven op het voorstel. Er zullen dus vermoedelijk nog wat aanpassingen gebeuren vooraleer het finaal wordt.”

Waar zie je belangrijke uitdagingen bij het inzetten van AI?

JDB: “Er zijn uiteraard heel wat belangrijke juridische, technische, ethische en maatschappelijke uitdagingen verbonden aan het gebruik van artificiële intelligentie.

Een grote uitdaging ligt volgens mij bij het creëren van data- en digitale geletterdheid bij de brede bevolking, gecombineerd met een voldoende groot draagvlak om AI in te zetten in onze samenleving. Zou de gemiddelde Vlaming er zich al voldoende bewust van zijn hoe AI een rol speelt in zijn of haar dagelijks leven? Snel een tekst vertalen via Google Translate, berichten versturen met de gsm of een favoriete serie bekijken op Netflix… In elk van deze dagelijkse situaties zitten AI-toepassingen verweven. Omdat ik het persoonlijk zeer belangrijk vind dat mensen voldoende bewust worden van het toenemend belang van AI – inclusief de voordelen, uitdagingen en gevaren – tracht ik hier mijn steentje toe bij te dragen via mijn rol bij het Vlaams Kenniscentrum, het geven van lezingen en het schrijven of editen van boeken over AI. Maar uiteraard reken ik ook op onze beleidsmakers om laagdrempelige campagnes op te blijven zetten die de brede bevolking voldoende sensibiliseren en informeren.”

“Een van de grote uitdagingen is om het brede publiek kennis te laten maken met de mogelijkheden en risico’s van AI. Kunstmatige intelligentie zit nu al verweven in allerlei toepassingen, maar veel mensen weten dit niet.”

Hoe zie je de link tussen AI en buitencontractuele aansprakelijkheid bij fouten?

JDB: “Het gebruik van AI heeft gevolgen voor alle rechtsdomeinen, gaande van gegevens- en consumentenbescherming over productaansprakelijkheid tot buitencontractuele aansprakelijkheid. Want één ding is zeker: ondanks de immense toepassingsmogelijkheden en voordelen zullen AI-systemen in de toekomst – jammer genoeg – schade veroorzaken. Denk bijvoorbeeld aan ongevallen met autonome voertuigen.

Vanuit een aansprakelijkheidsoogpunt duikt onvermijdelijk de vraag op wie in dergelijke gevallen de schade betaalt, bijvoorbeeld als een zelfrijdende wagen op straat een voetganger aanrijdt en levensgevaarlijk verwondt. Bij schade veroorzaakt door een AI-systeem, is het niet eenvoudig om de partijen te vinden die aansprakelijk gesteld kunnen worden. De eigenschappen van AI-systemen, zoals autonomie of opaciteit (= ondoorgrondelijkheid, nvdr), maken het dikwijls moeilijk om het functioneren ervan terug te brengen tot een natuurlijke of rechtspersoon. Ook de bewijslast voor slachtoffers is heel groot. Toon maar eens aan dat een operator of gebruiker van een AI-systeem een fout beging. Daarom gaan steeds meer stemmen op om de bewijslast om te draaien in het voordeel van slachtoffers.

Er is momenteel ook heel wat onduidelijkheid over de toepassing van bepaalde juridische concepten in een AI-context. Zo geldt bij productaansprakelijkheid – een materie die Europees aangestuurd wordt – het principe dat een producent aansprakelijk is voor schade die wordt veroorzaakt door een gebrek in het product. Dit klinkt mooi als theorie, maar in de praktijk duiken bij AI heel wat nieuwe vragen op. Is software een product? En wanneer is een AI-systeem gebrekkig? De Europese beleidsmakers zijn er zich alleszins van bewust dat het dringend tijd is om concrete antwoorden te formuleren op dergelijke nieuwe vragen.

In ons land zijn nog geen concrete gevallen van buitencontractuele aansprakelijkheid en AI bekend. Vroeg of laat zullen onvermijdelijk de eerste cases opduiken. Bij onze noorderburen werd een bestuurder van een Tesla Model X wel al bekeurd voor het gebruik van een mobiele telefoon tijdens het rijden. De man was het daar niet mee eens en stapte naar de rechter. Hij was van oordeel dat niet hij, maar de Tesla met rijhulpsysteem (Autopilot) de feitelijke bestuurder is. Volgens de man reed het elektrische motorvoertuig door middel van het rijhulpsysteem. De software zorgt ervoor dat het motorvoertuig zelf kan sturen en remmen, zonder dat ingrijpen van een persoon noodzakelijk is. Daarom moet het motorvoertuig, en niet hij als feitelijke bestuurder worden aangemerkt. De kantonrechter van de rechtbank Midden-Nederland volgde die redenering echter niet

Buitencontractuele aansprakelijkheid wordt ‘gemaakt’ door rechters. Zij zullen op termijn moeten (kunnen) bepalen of software een product is, wanneer een AI-systeem gebreken vertoont, enzovoort. Dus samen met beleidsmakers moeten ook rechtspractici meer dan ooit mee zijn met de recentste ontwikkelingen inzake artificiële intelligentie en de impact ervan op de maatschappij.”

Hoe bespreek je deze topics tijdens het webinar dat je in opdracht van Confocus presenteert?

JDB: “Tijdens mijn Confocus-webinar wil ik in een kort tijdsbestek de deelnemers maximaal informeren over verschillende aspecten van AI. Zo besteed ik aandacht aan de definitie van de belangrijkste begrippen, de voor- en nadelen van AI-toepassingen en sta ik uitgebreid stil bij het regelgevend kader, zowel nationaal als Europees. Uiteraard focus ik daarna op buitencontractuele aansprakelijkheid voor schade veroorzaakt door AI-systemen en de nood aan finetuning en herdefiniëring van bestaande concepten.”

Hartelijk dank voor dit interview.

(auteur: Geert Van Cauwenberge)