Verslag vergadering Commissie voor Cultuur, Jeugd, Sport en Media
Verslag
Het antwoord wordt gegeven door minister Dalle.
De heer Slootmans heeft het woord.
Ik begrijp dat u zich al mentaal aan het voorbereiden bent op de vraag. Nu, het is niet omdat u een christendemocraat en cd&v’er bent dat ik deze vraag hier stel. Dat is helemaal toevallig.
We weten allemaal waarover het gaat. Halverwege december, of rond sinterklaas, lanceerde cd&v een campagne met onze overleden oud-premier Jean-Luc Dehaene, waarbij die eigenlijk oproept om voor zijn partij te stemmen, en waarin een overleden figuur dus eigenlijk wordt geëxploiteerd om stemmen te vergaren.
Ik moet oprecht zeggen – dat is mijn mening – dat ik daar een vorm van plaatsvervangende schaamte bij voelde, om het woord ‘cringe’ niet te gebruiken. Maar als ik de commentatoren, de journalisten en de politicologen lees, was ik daar absoluut niet alleen in.
Maar bon, het is niet aan mij om aan te geven waar het moreel kompas van politieke partijen moet liggen. Ik ben op dat vlak veel liberaler dan u zou vermoeden, maar er zijn mijns inziens toch een aantal ethische bodemgrenzen waaraan we zouden moeten voldoen, zeker als politici.
Er is het spreekwoord: ‘over de doden niets dan goeds’. We mogen toch niet in een situatie verzeild geraken waarbij het spreekwoord eigenlijk wordt: ‘de doden zeggen niets dan goeds over ons’? Dat vind ik een griezelige gedachte in het kader van de toepassing van artificiële intelligentie (AI) in het kader van politieke campagnes.
Ik hoed me ervoor – en ik pleit daar ook niet voor – om zoiets in wetten en verboden te gieten. We gaan straks de Digital Services Act (DSA) bespreken. Ik denk dat we ons als overheid daar zeer ver van af moeten houden.
Anderzijds is het natuurlijk wel ironisch – bijna cynisch – dat de minister van Media middelen vrijmaakt voor de bestrijding van die deepfakevideo’s – en daar dus middelen aan spendeert: 3 miljoen euro – maar dat zijn partij er wel in slaagt om die deepfakes te realiseren, eigenlijk ook met overheidsgeld. Dat is toch een bijzonder grote contradictie.
Dat zeg ik trouwens niet alleen. Dat zegt iemand als Carl Devos, die het catalogiseert als een triest dieptepunt en totaal respectloos. Ongeacht het gegeven dat er toestemming is gegeven door de familie, heeft de heer Dehaene zich daar tot nader order niet over kunnen uitspreken.
Ik vind dat het in het kader van de commissie Media een beetje wereldvreemd zou zijn, mochten we dat niet behandelen of bespreken, omdat het natuurlijk pertinent aangeeft wat ons in de komende maanden en jaren tegemoetkomt.
Daarom heb ik dus de volgende vragen, minister.
Wat is uw visie in het kader van het gebruik van deepfakevideo’s in politieke campagnes, en meer specifiek in het kader van het exploiteren van overledenen in deepfakes uit electoralisme? Hoe rijmt u het gebruik van deepfakes met budgettaire en beleidsmatige inspanningen die er zijn gebeurd in het kader van de strijd tegen desinformatie en tegen deepfakes, die hier trouwens in deze commissie al bijzonder vaak aan bod zijn gekomen?
Minister Dalle heeft het woord.
Collega Slootmans, dank u voor de vraag. Het is natuurlijk zo dat artificiële intelligentie niet verboden is. Ook deepfakevideo’s zijn niet verboden. Het is wel zo dat er een aantal zaken zijn die moeten worden nagekeken als je ze gebruikt.
Het eerste punt is natuurlijk de vraag of er toestemming is van de betrokkenen of de nabestaanden. Een tweede punt is de vraag of het duidelijk is dat het over deepfake gaat. Want voor de duidelijkheid, collega Slootmans: mijn strijd als minister van Media is een strijd tegen desinformatie. Dat is iets anders dan een strijd tegen deepfakevideo’s. Deepfakevideo’s op zich moeten niet worden bestreden. Het gaat natuurlijk wel over de manier waarop ze worden gebruikt. Als ik heb geïnvesteerd in een aantal projecten, dan gaat het over de strijd tegen desinformatie, niet over de strijd tegen deepfake. Uiteraard gaat het wel over de strijd tegen deepfake die leidt tot desinformatie.
Bij mijn weten is dat hier helemaal niet het geval. Voorafgaand aan de publicatie van de video werd de inhoud ervan afgestemd met de familie. Die heeft ook expliciet toestemming verleend. Bovendien is er altijd helder gecommuniceerd dat het hier over een AI-video gaat, waardoor er geen enkele ruimte is voor verwarring over de authenticiteit ervan. In het filmpje is er zelfs een disclaimer opgenomen dat het om AI gaat, waardoor wordt vermeden dat de beelden eventueel kunnen worden gebruikt of misbruikt bij verdere verspreiding, of dat de kijker de indruk zou kunnen hebben dat het gaat over echte beelden van de heer Dehaene.
Met opzet is ervoor gekozen om de deepfakevideo niet tot in de perfectie overeen te laten stemmen met de werkelijkheid, om het geheel bewust een kunstmatig karakter te geven. Op deze manier wordt nog eens extra benadrukt dat het om een niet-authentieke video gaat. Het risico op verwarring, op desinformatie, is met nul gelijkgesteld.
Met de projectoproep desinformatie investeerde ik inderdaad iets meer dan 3 miljoen euro in de strijd tegen desinformatie. Daarbij komt ook beeldmanipulatie aan bod, zoals deepfakes. We mogen echter de AI-technologie achter deepfakes niet gelijkstellen met desinformatie. Pas wanneer er sprake is van gemanipuleerde of foute informatie die gecreëerd en gedistribueerd wordt met het doel om bewust een persoon, groep, organisatie of land schade te berokkenen, wordt er gesproken van desinformatie. Dat is in casu manifest niet het geval.
AI heeft ook veel voordelen. De vorige vraag van collega Almaci ging trouwens over die opportuniteiten. We moeten die ook durven te benoemen en gebruiken. Je kunt AI niet meer wegtoveren, het komt erop aan om het goed te reguleren en er op een doordachte manier mee aan de slag te gaan.
De heer Slootmans heeft het woord.
Dank u, minister, ik begrijp dat u wat gewrongen zit met deze vraag. Iets in mij zegt dat u daar helemaal geen grote fan van bent, maar dat uw partij en uw obediëntie u dwingen om dit hier bijna als een paling in een emmer snot toch goed te praten. Maar ik zou u toch willen oproepen om een vorm van helikopterperspectief aan te nemen in het kader van wat komen gaat. Zeker in uw functie van mediaminister hebt u daar een belangrijke verantwoordelijkheid in.
Het debat over AI en deepfake zou ons in het kader van deze vraag zeker en vast te ver leiden. We zullen het er straks trouwens nog over hebben met de Digital Services Act. Maar zou er, los van wetgeving, niet aan kunnen worden gedacht om een soort van gentlemen’s agreement tussen politieke partijen op te stellen, al dan niet geïnitieerd door u, minister, waarbij deepfakes van overledenen in het kader van politieke campagnes worden vermeden? Dat lijkt mij toch een ethische bodemgrens waarover overeenstemming zou moeten worden gevonden.
U zult waarschijnlijk zeggen dat dat een bijzonder naïef voorstel is. Ik ben in dat kader liever naïef dan cynisch. Ik verwijs daarbij naar de aanbevelingen die in de Senaat werden aangenomen, aanbevelingen in het kader van desinformatie en het bestrijden van deepfakes. Mevrouw Brouwers heeft er trouwens zeer actief aan meegewerkt. De negende aanbeveling stelt dat er dient te worden nagegaan in hoeverre de regeringen het promoten van ethische normen, in het bijzonder bij het gebruik van deepfakes, kunnen bevorderen, bij zowel politieke campagnes, overheidscampagnes als campagnes van het maatschappelijke middenveld. Men heeft het hier wel degelijk over het gebruik van deepfakes an sich in het kader van politieke campagnes.
Minister, u hebt zelf in uw antwoorden in commissievergaderingen al een aantal keren die aanbevelingen aangehaald, maar nu stel ik vast dat er wat dat betreft een selectieve vergeetachtigheid is. Ik roep op om daar enige consequentie aan den dag te leggen.
Mevrouw Perdaens heeft het woord.
Ik ben zeker niet de persoon om te zeggen wat smaakvol is in campagnevideo’s. Ik kijk nu al uit naar de campagne, om een nieuwe databank met compleet foute filmpjes te kunnen aanleggen. Er zijn er potverdikke veel. Daar heb je niet eens deepfake voor nodig, zo bewijst de geschiedenis.
Minister, iets helemaal anders is het feit dat u de combinatie hebt van de bevoegdheden Jeugd en Media. Deze verkiezingen zullen heel erg speciaal zijn voor heel wat jongeren. Bij de Europese verkiezingen mogen 16-jarigen voor het eerst gaan stemmen. Onze lokale verkiezingen zullen bij uitstek jongeren moeten motiveren om te gaan stemmen. Waarom moeten zij gaan stemmen? Over deepfake kun je discussiëren. Het is een snufje dat misschien een strategie was om jongeren net aan te trekken, maar het is heel belangrijk om, wanneer we jongeren informeren over wat politiek is en hoe we aan politiek doen, zo dicht mogelijk bij de realiteit te staan. Wanneer u informatie gaat verschaffen over de verkiezingen, zal dat ook het geval zijn. Op welke manier gaat u erover waken dat u, wanneer we specifiek jongeren informeren over de verkiezingen en over hun kansen en mogelijkheden en rechten, zo dicht mogelijk bij de realiteit blijft? Zult u daar een kader voor opstellen?
Mevrouw Brouwers heeft het woord.
Ik voel mij een beetje aangesproken, dus ik ga toch ook iets zeggen. Toen ik voor het eerst die video zag, was mijn eerste gedachte dat daar discussie over zou ontstaan. Tegelijk hebben heel veel mensen die nog nooit van deepfake hadden gehoord, maar er het zonder te beseffen wel al hadden gezien, tenminste weet van het bestaan ervan. Ik vond het dus een kleine les in mediawijsheid. We mogen mensen niet overschatten, veel van hen weten niet dat zoiets kan en dat ze daar dagelijks mee worden geconfronteerd. Misschien gaan die mensen wel extra voorzichtig zijn als ze bepaalde beelden met rare boodschappen tegenkomen. Ikzelf heb dat op die manier bekeken, maar iedereen zal daarover wel zijn eigen mening hebben.
Jammer genoeg gebeurt er in de Senaat niet altijd heel veel met onze aanbevelingen. Senator Slootmans, u weet dat ook. Ik heb al opgemerkt dat wij daar heel hard werken aan bepaalde rapporten en dat de verschillende regeringen van het land daar niet altijd heel veel aandacht aan schenken. Hier stond in dat we daar als politieke partijen voorzichtig mee moeten zijn, of toch op zijn minst afspraken rond moeten maken, of – zoals bij deze video het geval was – aangeven dat het niet echt is. Het ergste is als je zulke video’s ziet en er nergens vermeld staat dat het om een deepfake gaat. Dat soort regelgeving moet er misschien wel komen, als die al niet bestaat op een hoger Europees niveau, wat, denk ik, niet het geval is. Ik denk dat men daar nog mee bezig is.
Als we zo’n video zien, zouden we het wel moeten weten. Zodra een systeem bestaat, kun je natuurlijk niet verbieden dat iemand dat gebruikt. Technologie kan gebruikt worden, ook op een grappige manier. Ik denk dat het heel moeilijk is om een technologie die bestaat, te gaan verbieden. Wat we wel kunnen doen – maar dan moeten alle politieke partijen het eens zijn – is dat alle partijvoorzitters afspreken om dat niet te gebruiken, al denk ik dat dat heel moeilijk wordt met de verkiezingen die binnen enkele maanden plaatsvinden.
Ik heb niet echt een vraag, maar wou toch even mijn mening ventileren.
Mijn vuistregel is dat, zodra een beeld wordt gebruikt om bedrog en misbruik te plegen en het onderscheid tussen nep en echt niet duidelijk is, regulering nodig is. Je kunt zeggen dat iemand tot leven wekken een humoristische insteek is om een bepaalde boodschap te brengen, maar op dat moment zit je in de gevarenzone. Op het moment dat mensen door bekende Vlamingen worden opgeroepen om een gietijzeren pot van merk x of een beleggingsproduct van merk y te kopen, spreek je van misbruik. Het helder maken van de bedoeling of het kaderen van een filmpje is volgens mij een stukje mediawijsheid. Minister, met het oog op het debat zoals het nu wordt gevoerd in Europa, moet het regulerend kader heel sterk en helder zijn. Ik vermoed dat de grens daarbij misbruik is, maar ik vraag het toch. Minister, ik hoor graag uw visie daarop.
Minister Dalle heeft het woord.
Dank u wel, voorzitter. Om op het laatste te antwoorden: we hebben inderdaad nog maar vorige maand de AI Act op Europees niveau goedgekeurd. En daar staan ook regels in rond deepfake. Die bepalen dat personen ervan op de hoogte moeten zijn dat ze te maken hebben met deepfake. Dat was in dit concrete geval duidelijk in orde.
Ik ben het natuurlijk met u eens dat het bedrieglijk gebruik van AI om ervoor te zorgen dat mensen geloven dat het effectief de persoon in kwestie is, niet door de beugel kan. Als het bijvoorbeeld gaat over reclame, is dat al verboden onder nationale wetgeving, die correcte reclamecampagnes wil garanderen.
Wat de vraag naar politieke afspraken betreft: het is natuurlijk perfect mogelijk om dat toe te voegen aan de deontologische regels die politici en politieke partijen zouden leiden. Tegelijk, collega Slootmans, sta me toe om het wat ironisch te vinden dat precies uw fractie vraagt om meer deontologie rond een thema als deepfake, terwijl er binnen uw fractie, denk ik, veel grotere deontologische problemen naar voren komen.
Collega Perdaens, u hebt gelijk om te wijzen op het belang van goede en dus correcte informatie en geen fake informatie aan jongeren over de verkiezingscampagne. Het toeval wil dat wij met collega Jambon als minister-president en minister van Cultuur, deze morgen in de Commissie Cultuur en Onderwijs van het Europees Parlement waren en dat daar exact dezelfde vraag werd gesteld. Europa en Vlaanderen zijn vandaag bijzonder verbonden. Wij hebben daar uiteengezet dat, bijvoorbeeld in het kader van het Europese voorzitterschap, we extra gaan investeren in evenementen en informatie om de betrokkenheid van jongeren te verzekeren in het kader van de activiteiten die we doen rond het voorzitterschap. Hetzelfde geldt ook puur Vlaams. U weet dat De Ambrassade bijvoorbeeld heel wat werk heeft geleverd om correcte informatie te verzorgen rond de kiescampagne, rond de politieke partijen, en om dat op een goede manier te doen. Ik denk dat u daar terecht aandacht voor vraagt. We zullen dat, zowel vanuit Vlaanderen als in het kader van het Europese voorzitterschap, de komende maanden ter harte blijven nemen.
De heer Slootmans heeft het woord.
Dank u, minister.
Als ik mevrouw Brouwers bezig hoor, denk ik dat we cd&v eigenlijk dankbaar moeten zijn dat ze een eigen preventiecampagne in het kader van deepfake hebben opgezet. Waarvoor dank. Mea culpa dat ik de vraag heb durven in te dienen. U hebt het over het verbieden van technologie. Dat is eigenlijk mijn vraag niet. Mijn ethische bodemgrensvraag is dat we overledenen niet gaan exploiteren in deepfakevideo’s in het kader van politieke campagnes. Dat lijkt mij een absolute minimumbodemgrens. Ik dacht dat daarover overeenstemming zou moeten bestaan, zeker als je de aanbevelingen van de Senaat in het achterhoofd houdt. Maar ik stel vast dat die bodemgrens zelfs niet wordt gehaald, wat ik bijzonder betreur en een fout signaal vind. Tot daar.
Dank u wel, mijnheer Slootmans. Gelukkig zijn we hier nog allemaal in onze eigenlijke, feitelijke versie. Een oud-voorzitster van mijn partij heeft gezegd: “Het was ofwel de echte Mieke Vogels, ofwel de AI-versie." We hebben toch maar gekozen voor de AI-versie, pardon de echte versie. (Gelach)
Dit zal de geschiedenis ingaan. Aan jullie om uit te zoeken wat waar is.
De vraag om uitleg is afgehandeld.