Ik kreeg van de robot een onvoldoende

Bert van der Zwaan neemt afscheid als rector magnificus van de universiteit waar ik werk – Universiteit Utrecht. Op zo’n moment kan een rector magnificus het zich veroorloven zich wat persoonlijker te uiten over de vraagstukken waar hij zich in functie mee bezig heeft gehouden – zoals de huidige ontwikkelingen op het gebied van kunstmatige intelligentie en robotisering (citaten komen uit Trouw van 27 maart, De Verdieping pp. 6+7). En ik moet zeggen dat ik wel een beetje schrok van wat onze vertrekkend rector op dat gebied te zeggen had: “Het onderwijs is over vijf jaar voor 80 procent gerobotiseerd. Daar bereiden we ons als universiteit nu al op voor. De robot stelt vragen, de robot kijkt of het antwoord goed is. … Dat kan allemaal. Er komt praktisch geen persoon meer aan te pas.”

Nu kun je je afvragen wat Van der Zwaan daar eigenlijk bij denkt. Als dit echt over vijf jaar het scenario is, dan kunnen we immers de universiteit over tien jaar wel opdoeken – dan studeert iedereen aan de university dot com, gerund door kunstmatige docenten die geen salaris hoeven en nooit met pensioen gaan. Je zou toch van een rector verwachten dat die juist de waarde van de universiteit als een instituut voor en door mensen, en dus van de menselijke factor, onderstreept.

Van der Zwaan illustreert zijn uitspraken met het voorbeeld van Jill Watson, een kunstmatige ‘onderwijsassistent’ gebaseerd op AI-technologie van IBM. Jill Watson werd ontwikkeld voor, en vorig jaar daadwerkelijk ingezet bij, een online cursus die deel uitmaakt van de master Computerwetenschappen van het Georgia Institute of Technology. Jill Watson werd hogelijkst gewaardeerd door de studenten van die cursus, die niet doorhadden dat de antwoorden die ze kregen op hun vragen die ze op het forum van de cursus postten door een stukje software gegenereerd werden.

Blinde regels volgen
IBM zet deze Watson-techniek in de markt met de slogan ‘Watson Natural Language Understanding’. En daarin ligt precies de dubbelzinnigheid die het optimisme van onze vertrekkende rector verklaart. Jill Watson, en andere Watson-gebaseerde ‘services’, lijken daadwerkelijk te begrijpen wat je ze aan input geeft, en dus op basis van dat begrip zinnige antwoorden op vragen te geven. Maar dat is allemaal schijn. Natuurlijk is het een ‘schijn’ die onwaarschijnlijk overtuigend kan zijn – betoverend, zogezegd. Want het is natuurlijk waar dat met de ‘deep learning’-technieken van tegenwoordig een echt verrassend accurate simulatie van zoiets als tekstbegrip gecreëerd kan worden. Maar er is eenvoudigweg geen enkele vorm van begrip aanwezig in zulke simulaties. Computers begrijpen niet. Ze combineren gegevens volgens regels. Blinde regels. De schijn van begrip komt voort uit de data die je ze voert: allemaal data die door mensen gegenereerd is, tekst waarin de mensen begrip tot uitdrukking weten te brengen (in meer of mindere mate!). En daarbij is het ook nog eens zo dat de wijze waarop zo’n kunstmatig intelligent systeem combineert en analyseert compleet ondoorzichtig is (dat is wat achter het label ‘deep learning’ steekt).

Schijn-intelligentie
Deze schijn, die uit de combinatie van heel veel data en slimme (‘deep learning’) analyse ontstaat, is verantwoordelijk voor de schijn van een doorbraak op het gebied van kunstmatige intelligentie in de afgelopen jaren (zie hier een kritisch (Engelstalig) stuk in deze richting, waarin ook het idee van ‘deep learning’ in enigszins begrijpelijke taal uitgelegd wordt). En het is jammer dat mensen zoals Bert van der Zwaan zich zomaar in de luren laten leggen door die schijn. Niet alleen jammer, maar zelfs gevaarlijk.

Want stel dat het inderdaad zo wordt als hij zegt: “De robot stelt vragen, de robot kijkt of het antwoord goed is”. En stel dat je dan een tentamen maakt, of een essay schrijft, en van de robot te horen krijgt: “Je krijgt een onvoldoende voor deze opdracht”. Waarop is dat oordeel dan gebaseerd? Niemand weet het. Niemand kan het weten. En zelfs als de robot je van ‘feedback’ kunt voorzien: dat is schijn-feedback. Gaan we ons dan ook nog daadwerkelijk naar dat soort feedback richten, dan is de cirkel compleet: we hebben een schijn-intelligentie gecreëerd die slimmer is dan ons allemaal, en toch niets begrijpt, en laten dan ook nog toe dat die schijn-intelligentie ons de les leest, ons ‘programmeert’. Je kunt je afvragen op wat voor toekomst de mensheid afstevent als we iets dergelijks precies op het gebied van onderwijs gaan toelaten en implementeren.

 

Meer blogs lezen van Jesse Mulder?

Vind hier al onze bloggers