U bent hier

Plenaire vergadering

woensdag 29 januari 2020, 13.57u

Voorzitter

Mevrouw El Kaouakibi heeft het woord.

Collega’s, laat me starten met te zeggen dat ik natuurlijk een fan ben van technologie. Als artificiële intelligentie mensen kan helpen om gezondheidsproblemen sneller op te lossen, of als dat mensen sneller aan een geschikte job kan helpen, dan is dat wenselijk. Als AI daarentegen verschillen uitvergroot, ongelijkheid bestendigt of zelfs mensen uitsluit, dan is dat alles behalve menselijk. Volgens mij is dat zowat het thema van 2020, als het gaat over de digitale evolutie: ethiek. Daar gaat het over. Zelfs techreuzen IBM en Google – niet de minste – trekken aan de alarmbel. Ze vragen echt wel een regelgeving rond AI.

Ik uitte evenzeer mijn bezorgdheid al rond het gebruik van AI, specifiek op de arbeidsmarkt en voornamelijk in matching tools, zowel door hr-dienstverleners als bij onze eigen VDAB. Experten, academici, ook de gedelegeerd bestuurder van VDAB zelf, Wim Adriaens, hebben gereageerd en eigenlijk positief gereageerd. Ze delen de bezorgdheid. VDAB is zelf een voortrekker als het gaat over het ethisch gebruik van AI. Dat is absoluut ‘good to know’.

Langs de andere kant zijn er valkuilen. Het is over die valkuilen dat ik eigenlijk bezorgd ben, nog steeds. Dan gaat het voornamelijk over de jobsuggesties. Jobsuggesties, waarvoor ook AI gebruikt wordt, zijn aanbevelingen. Die zijn niet verplicht. Maar dat is geen klein detail. Gedurende de tien jaar dat ik al werk aan de mismatch op de arbeidsmarkt, is dat toch een weerkerende frustratie, bijna zelfs een bron van wantrouwen ten aanzien van VDAB, helaas en onterecht. Als die jobsuggesties niet aansluiten bij je capaciteiten of je ervaringen, kan dat frustratie met zich meebrengen. Dat is jammer, want mensen kunnen dat zien als een oriëntatieadvies en soms zelfs als een motivatie, toch niet onbelangrijk dus.

Vandaar mijn vraag. Als het niet ligt aan de dataset, als het niet ligt aan blinde vlekken in het algoritme, waar ligt die mismatch vandaag dan wel aan?

Minister Crevits heeft het woord.

Minister Hilde Crevits

Bedankt voor uw vraag, collega El Kaouakibi. Ik heb ook uw stuk gelezen in de krant. U hebt allicht ook het antwoord gelezen van Wim Adriaens, gedelegeerd bestuurder van VDAB. Eigenlijk hebben jullie dezelfde bezorgdheid. Ik deel zelf die bezorgdheid ook. Als je gebruikmaakt van artificiële intelligentie, dan vraagt dat een heel zorgzame ethische reflex, niet alleen als het gaat over jobsuggesties maar ook over zelfrijdende auto’s enzovoort. Je kunt duizend-en-een situaties bedenken waar dit echt een issue is.

Dat is de reden waarom we een paar maanden geleden het Kenniscentrum Ethiek en Artificiële Intelligentie geopend hebben. Ik ben daar heel blij mee. Alle kennisinstellingen werken daar ook aan mee.

Ik heb alle vertrouwen in VDAB en zijn gedelegeerd bestuurder, maar toch heb ik wegens de zorgen rond transparantie, waar u terecht naar verwijst, gevraagd dat VDAB zijn algoritmes eens overmaakt aan het kenniscentrum, zodat er toch een extra check is en zodat we samen kunnen nagaan of er valkuilen zijn en of de algoritmes verbeterd kunnen worden. Wim Adriaens heeft ondertussen al gezegd dat hij dat zal doen, omdat hij ook wil dat alles zo transparant mogelijk verloopt en dat de mensen niet hoeven te denken dat wat er gebeurt, niet bevorderlijk is om hen aan de slag te krijgen. Die toets zal dus op korte termijn plaatsvinden en zal gebeuren in functie van wat u zelf belangrijk vindt, namelijk dat AI op een ethisch correcte wijze ingezet wordt.

Dank u wel voor het antwoord. Het was een positief antwoord. Die jobsuggesties blijven echt wel een bezorgdheid, dus als dat versterkt kan worden naar 80 procent, dan is dat niet onbelangrijk. Daar moeten we ons zeker op focussen.

Ik ga verder op wat u nog gezegd hebt, want AI wordt natuurlijk in allerhande zaken gebruikt: gezichtsherkenning, opsporing van criminaliteit, sociale fraude, … Nogmaals, als het gebruikt kan worden om alles sneller op te sporen, dan is dat top, maar als het daarentegen bepaalde types mensen systematisch en structureel viseert, op basis van historische gegevens, dan niet. In Amerika spreken ze bijvoorbeeld over Black Mirrortoestanden. Bon, wij zijn Amerika niet, wij zijn Vlaanderen en wij doen het beter. Dat hoor ik toch, maar wat is nu eigenlijk de ethische toets waaraan de Vlaamse overheid, als ze al AI gebruikt, wordt onderworpen?

Mevrouw Vandecasteele heeft het woord.

Ik deel absoluut de bezorgdheid van zowel mevrouw El Kaouakibi als minister Crevits. Ik vind het prima als Netflix mij een aantal programma’s voorstelt op basis van mijn profiel, maar het wordt inderdaad problematisch als VDAB mij op basis van mijn profiel enkel deeltijdse jobs voorstelt of als blijkt dat VDAB door dat algoritme meer discriminerend zal worden.

Een van de zaken die de woordvoerder van VDAB, Joke Van Bommel, in het artikel stelde, is heel belangrijk. Ze zegt dat een suggestie van het algoritme niet heilig is, wanneer uit een persoonlijk gesprek met een werkzoekende blijkt dat hij snel weer op zijn voeten terecht kan komen. Dan zullen de trajectbegeleiders daar rekening mee houden. Het is belangrijk dat we AI als middel gebruiken, want het kan ons vooruit helpen, maar menselijke en sociale intelligentie blijven het belangrijkste om werkzoekenden te begeleiden. Ik maak me dan ook zorgen over de ontslagen die vallen bij VDAB. Er worden 419 mensen ontslagen, waardoor er minder begeleiding zal zijn …

Dus uw vraag luidt?

… en waardoor de risico’s van AI niet opgevangen zullen kunnen worden.

Ah, er was geen vraag.

De heer Ronse heeft het woord.

Ik vond het juiste knopje niet om mijn microfoon aan te zetten. AI zou hier geholpen kunnen hebben.

De bezorgdheid van de collega is legitiem, maar ik heb ook het opiniestuk van Wim Adriaens gelezen en ik denk dat de grootste bezorgdheid daarmee weggenomen is. Hij zegt letterlijk dat de variabelen ‘gender’ en ‘nationaliteit’ niet meegenomen worden om de afstand tot de arbeidsmarkt in te schatten. Wat onze fractie betreft, juichen wij de ingeslagen weg toe om AI toe te passen bij VDAB en op basis van profielen jobsuggesties te doen en de afstand tot de arbeidsmarkt te meten, zeker en vast gezien de context waarin we het takkenpakket van VDAB gaan verruimen. Alles wat geautomatiseerd kan worden, moeten we automatiseren. Waar menselijke interactie noodzakelijk is, moeten we nog meer mensen gaan inzetten. AI kan de nodige capaciteit daarvoor vrijmaken.

Ik had daar één concrete vraag bij. Zijn er ook plannen om AI te gaan inzetten en toepassen bij aangepast beschikbaren, zoals SWT’ers, in het kader van jobsuggesties of de afstand tot de arbeidsmarkt? Wordt hun statuut ook meegenomen als variabele in die algoritmes?

Mevrouw Malfroot heeft het woord.

Bij AI wordt er altijd uitgegaan van bestaande gegevens. In het geval van onderzoek naar kansen op de arbeidsmarkt ga ik ervan uit dat die AI net wordt gebruikt om te objectiveren en niet om te discrimineren. De computer kiest uit bepaalde data die hij ter beschikking heeft. Natuurlijk zijn die ook afhankelijk van een aantal parameters die nog door de mens zijn ingegeven.

Mevrouw El Kaouakibi, ik had dus eigenlijk niets anders verwacht dan dat jullie zouden willen aantonen dat die AI zou gaan discrimineren in plaats van te objectiveren, hoewel hier net het omgekeerde lijkt, ook op basis van het antwoord dat de heer Adriaens heeft gegeven in zijn opiniestuk. Daarom heb ik ook de vraag of jullie al hebben gemeten of bepaalde groepen werkzoekenden zouden worden gediscrimineerd door het gebruik van die AI.

De heer Bothuyne heeft het woord.

De bezorgdheid van collega El Kaouakibi is uiteraard terecht, en ik ben ook heel blij dat de gedelegeerd bestuurder van VDAB, Wim Adriaens, op een heel correcte manier heeft geantwoord. Er wordt op een juiste manier omgegaan met AI in de schoot van VDAB. Nu, VDAB werkt niet alleen. VDAB werkt met heel veel partners. Minister, daarom lijkt het me belangrijk om niet alleen samen met VDAB aan een ethisch beleid inzake AI te werken, maar ook met die partners te gaan bekijken hoe zij omgaan met hun systemen van AI en data beschermen.

Tot slot wil ik me ook graag aansluiten bij de pleidooien om vooral persoonlijke begeleiding voorop te stellen als het gaat over de noden van mensen die het moeilijk hebben op de arbeidsmarkt. AI en ICT-tools zijn een hulpmiddel, ze zijn zeker niet zaligmakend als het gaat over het begeleiden van mensen richting een duurzame job.

Mevrouw Segers heeft het woord.

Collega El Kaouakibi, dank u wel voor de heel pertinente, belangrijke vraag. AI komt razendsnel op ons af, is al massaal aanwezig. Ik deel uw bezorgdheid absoluut. AI verandert onze wereld, verandert ons als mens. Afgelopen maandag heeft Yuval Harari daar nog een bijzonder boeiende lezing over gegeven. Hij gaf als centrale boodschap mee dat die menselijke benadering heel essentieel is in het ontwikkelen van een ethisch kader.

Minister, ik juich absoluut toe dat u het Kenniscentrum Data & Maatschappij hebt opgericht, om vanuit die mensgedreven benadering dat ethisch kader daarvoor te ontwikkelen. Ik was daar ook op aanwezig. Ik loof ook uw reflex om aan VDAB te vragen hun algoritmen even te laten bekijken. Dat is belangrijk. Natuurlijk, naarmate AI een steeds prominentere plaats inneemt in alle takken van onze samenleving, niet alleen in de economie, zal dat soort vragen aan het kenniscentrum natuurlijk ook toenemen.

Ik ben geïnteresseerd in uw vraag. Hoe luidt die?

U voelt me al komen: het zal dus belangrijk zijn om dat kenniscentrum voldoende te versterken voor de komende jaren. Daartoe wil ik u oproepen.

Minister Hilde Crevits

Collega’s, dank u voor alle aanvullingen. Als sp.a de voorbije legislatuur tussenkwam, dan was dat om geld te vragen. Ik voelde het komen.

Au fond ben ik het met de basisopmerkingen eens. Ten eerste, er is een heel groot programma gemaakt inzake AI. Collega Muyters heeft dat in de vorige legislatuur opgestart. We hebben in middelen voorzien om te investeren in onderwijs, in middelen voorzien om richting bedrijven te gaan en in middelen voorzien om een kenniscentrum met betrekking tot AI op te richten. Dat heeft tot doel om te begeleiden, om vragen zoals deze die we nu hebben inzake VDAB te onderzoeken, maar ook om te bekijken hoe wij daar als Vlaamse overheid mee omgaan en hoe het bedrijfsleven daarmee kan omgaan. Ik heb zelf gezegd: AI zit in alles wat je wil automatiseren. Ik ben zelf jurist/advocaat geweest. Ik verwijs naar het voorbeeld van de zelfrijdende auto. Ik zei het daarnet. Op het moment dat die voor keuzes komt te staan om al dan niet iemand te redden, dat er prioriteiten moeten worden gesteld, dan is dat puur ethiek. Er moet iemand aan het stuur zitten om de juiste codes te geven. Er is dus nog ontzettend veel werk aan de winkel wat dat betreft, maar we hebben in Vlaanderen nu zo’n centrum. We hebben ook een eenvormige aanpak, waarbij ook de universiteiten betrokken zijn. Dat lijkt me dus een uitstekende zaak. Ik hoop dat er heel veel vragen aan het centrum komen.

Mevrouw Segers, we zullen dan bekijken hoe de financiering zal lopen. Men moet dat niet allemaal voor niks doen. Er moet gekomen worden tot een erkenning waarbij er één centrum is dat zich bezighoudt met die vragen.

Gaat het hier over VDAB alleen? Neen, uiteraard niet. Het is vanuit een veel bredere ‘chapeau’ gestart, maar de vraag van mevrouw El Kaouakibi gaat natuurlijk wel daarover. Het gaat hier over kansen die aan mensen worden gegeven of opportuniteiten die voor mensen worden geschapen. Daar zegt VDAB te automatiseren op twee zaken.

Ten eerste is er het inschatten van de afstand tot de arbeidsmarkt. Op zich is dat een goede zaak omdat ze met grote groepen werken. Mevrouw Malfroot, zo kun je ook een aantal voordelen wegnemen. Bijvoorbeeld, we hebben een idee over hoe het zit met 55-plussers. Net door al die gegevens te verzamelen, zie je waarin ze geïnteresseerd zijn. Het werkt dus eigenlijk in twee richtingen, wat op zich goed is en zeker niet per definitie discriminerend is.

Ten tweede zijn er de jobsuggesties. Daar hangt het er een beetje van af hoe je bent. Dat vraagt natuurlijk geen persoonlijke begeleiding. Je geeft je profiel in en dan stelt de computer een aantal dingen voor die misschien nuttig zijn. Als het gaat over begeleiding of als mensen naar VDAB gaan om een job te vinden, dan is er altijd een persoonlijke tussenkomst. Dat heeft de heer Adriaens in zijn stuk ook gezegd. Het is nooit de computer die dat zal zeggen.

En zo kom ik bij mevrouw Vandecasteele. Ik dacht het voor een keer eens te zijn met u. Met het eerste deeltje van uw tussenkomst was ik het zeker eens. Het is van belang dat er persoonlijke begeleiding is. Maar toen zei u dat er vierhonderd mensen ontslagen zullen worden. Er wordt niemand ontslagen bij VDAB. Het is zo dat mensen die met pensioen gaan, niet altijd vervangen zullen worden. Ik heb me al uitgeput om hier te zeggen dat VDAB een plan maakt. Dat wordt geen wilde oefening waarbij de eerste die weggaat, niet meer vervangen wordt. Integendeel, de heer Adriaens heeft ook al gezegd dat ze zich zullen focussen op hun kerntaak. Dus, de consulenten zijn prioritair en de begeleiding van mensen ook. Maak er dus geen negatief verhaal van.

Ik ben er absoluut voorstander van om in de toekomst, zelfs meer dan vandaag, in te zetten op artificiële intelligentie, maar op die domeinen waar het een meerwaarde is en onder een ethisch kader waarover transparantie bestaat, zodat het niet meer nodig is dat u naar hier moet komen om uw zorgen uit te drukken wat dat betreft.

Ik hoop trouwens ook dat artificiële intelligentie ons in de komende maanden en jaren in staat zal stellen om nog veel meer mensen naar een goede, duurzame job toe te leiden, maar ik ben ervan overtuigd dat dit ons ook zal lukken. (Applaus bij CD&V)

Ik ben er ook van overtuigd. Nogmaals, ik ben een fan van technologische vooruitgang, maar we moeten gewoon waken over de bestemming van die vooruitgang. Alles wat u zegt, is in het teken daarvan.

Caroline Pauwels zei het al heel mooi in een interview dit weekend: “Niet alles wat technologisch mogelijk is, is sociaal wenselijk. Niet alles wat economisch rendabel is, is uiteindelijk juridisch toegestaan.” Met andere woorden, bij elke nieuwe mogelijkheid moeten we wel degelijk de juiste ethische vragen formuleren. Ik pleit dan ook voor een versterking, een samenwerking over de partijgrenzen heen, om te werken aan #AI4Good. Dat is AI die ethisch, transparant en uiteraard inclusief is.

De actuele vraag is afgehandeld.

Vergadering bijwonen

Wegens de Coronacrisis vinden de plenaire vergaderingen op woensdagen (14u) plaats met een beperkt aantal volksvertegenwoordigers. De overige parlementsleden kunnen van thuis uit digitaal stemmen. De plenaire vergaderingen zijn rechtstreeks te volgen via deze website. 
De publiekstribune is toegankelijk.

De commissiewerkzaamheden zullen voor het grootste deel digitaal en via videogesprekken gebeuren. Als de werkzaamheden het vereisen, vinden sommige vergaderingen fysiek plaats. Alle commissievergaderingen zijn rechtstreeks te volgen via deze website. 

U kunt steeds de vergaderingen (her)bekijken via onze website of YouTube.

Wanneer vinden de vergaderingen plaats? Raadpleeg de volledige agenda voor deze week, of de parlementaire kalender voor een algemeen beeld van de planning van de vergaderingen in het Vlaams Parlement.