Turing, een eurekaeast voor generatieve AI
De laatste jaren zijn we onderhevig aan heftige veranderingen in computing, artificiële intelligentie en machine learning. Daarom is deze maand van de geschiedenis een uitgelezen kans om Alan Turing (1912-1954), de man van het moment, te belichten. Turing is vooral bekend als de bedenker van de Turing Test (1950), die AI van mensen onderscheidt, maar eigenlijk had hij drie eureka momenten die nauw samenhangen: de uitvinding van de computer, de artificiële intelligentie en het lerende vermogen van machines. In veel hedendaagse toepassingen van AI komen al deze uitvindingen samen.
Ik zie een eureka moment als een moment van theoretisch inzicht dat de potentie heeft om de wereld te veranderen. Toen Archimedes de verplaatsing van het badwater zag, kreeg hij inzicht in de mogelijkheden voor het meten en beïnvloeden van vloeibare massa. Een eurekaeast hoeft niet per se de toepassing van zijn of haar theoretische inzicht te bewerkstelligen. Het volstaat als de potentie van de toepassing van het inzicht wordt ingezien. Zo heeft Turing bijvoorbeeld in de periode 1945-1948 de computer voornamelijk als theoretische fenomeen bedacht (de zogenaamde Turing Machine). Dat was feitelijk een oneindig potente rekenmachine met een werkgeheugen. Om de praktische potentie van die uitvinding te bewerkstelligen hebben veel ingenieurs hard gewerkt aan technische innovaties.
Turing als innovator
Velen kennen Turing van de biopic The Imitation Game (Tyldum, 2014). Daarin was te zien dat Turing een belangrijke rol speelde in het breken van de gecodeerde militaire berichten van de nazi’s. Turings technische innovaties rond de computer en AI passeren daar de revue, maar worden vooral gepresenteerd als metafoor voor zijn homoseksualiteit en het verbergen daarvan. Hoewel dit wat licht werpt op zijn leven en de verdienste heeft dat het laat zien hoe onmenselijk de Britse regering Turing in het bijzonder en homoseksuelen in het algemeen behandelde, geeft dat ons weinig inzicht in Turing als eurekaeast. Wat maakte hem nou zo’n succesvolle innovator? Ik wil hier wijzen op een belangrijke filosofische invloed op Turing, en op basis daarvan zijn drie eurekaeastische momenten toelichten.
Het is 1939. Turing heeft net een jaar eerder zijn PhD behaald aan Princeton University in de Verenigde Staten en keert terug naar het Britse Cambridge University. Daar volgt hij een seminar van de beruchte iconoclastische filosoof Ludwig Wittgenstein. Wittgensteins vroege werk was de basis geweest van de logisch positivistische stroming in de wetenschapsfilosofie, van de zogenaamde Wiener Kreis. Wittgenstein, die dat jaar net hoogleraar was geworden, verwierp nu zijn vroegere werk. Betekenis kon niet ontleend worden aan een referentie naar de realiteit, maar alleen uit de (al dan niet bewuste) conventies die we in verschillende spreekcontexten hanteren. Kortom, Wittgenstein was een spraakmakend figuur en het zal voor Turing ook niet geheel onbekend zijn geweest dat ook Wittgenstein homoseksueel was.
Turing, de kersvers gepromoveerde wiskundige, volgde Wittgensteins seminar over de fundamenten van de wiskunde. In dat seminar bekritiseert Wittgenstein onder andere Principia Mathematica, het monumentale boek-project van Bertrand Russell en Alfred North Whitehead waarin ze bewijzen voor de fundamenten van de wiskunde proberen te leveren. Zoals veel wiskundigen in die tijd waren deze auteurs van mening dat de wiskunde gebaseerd kon worden op rationele onbetwijfelbare wetten en tot op zekere hoogte zich onbetwijfelbaar tot de realiteit kon verhouden. Met dit soort vooronderstellingen, die in de praktijk zeer moeilijk te bewijzen bleken, rekent Wittgenstein hardhandig af. Wiskundige regels zijn slechts conventies die we met elkaar afspreken, en dus onderhevig aan een bepaalde taalcontext.
In de transcriptie van Wittgensteins seminar valt op dat Turing Wittgensteins meest uitgesproken discussiepartner was.1 Keer op keer vraagt hij Wittgenstein om verheldering of legt hij zijn vooraannames op tafel zodat Wittgenstein deze kan ontmantelen. Het lijkt er op dat Turing na dit seminar zijn traditionele opvattingen over de wiskunde aan de kant zet en dat Wittgensteins poging om wiskundige regels als aan taalcontext gerelateerde conventies te karakteriseren hem een zeer succesvol eurekaeast hebben gemaakt bij het toepassen van de wiskunde op uitzonderlijke problemen.
Codes, computers en AI
Het breken van nazi codes (1938-1943) verliep bijvoorbeeld ten dele door het observeren van een bepaalde context waarin de codes hun betekenis kregen: bepaalde woorden die vaak terugkomen in militaire berichten. Ook de Turing Machine, het theoretische prototype van de computer, is ontworpen zonder een directe afbakening van mogelijke input en output. Die kan namelijk per betekeniscontext veranderen. De computer is een belangrijke uitvinding omdat het ons denkwerk over elke mogelijke context uit handen neemt. Zoals biograaf Jack Copeland opmerkt: ten opzichte van de Analytical Engine van Charles Babbage was de Turing Machine universeel, er wordt dus geen onderscheid gemaakt tussen programma en data.2 Met andere woorden, het programma waarmee de data berekend wordt is van dezelfde aard als de data zelf. Dat maakt de invoer gemakkelijk en maakt het mogelijk om de computer snel aan te passen aan een nieuwe betekeniscontext met zijn eigen computatie-behoeftes.
Opmerkelijk genoeg was een computer voor Turing in feite een mens.3 Ook deze opmerking, die veelbetekenend is voor het ontwikkelen van AI als een menselijke cognitie nabootsend computerprogramma, dienen we te begrijpen in de context van de opvattingen van Wittgenstein. Het berekenende vermogen van een computer is gebaseerd op het berekenende vermogen van de mens, het wordt alleen sneller uitgevoerd. We hebben ook gezien dat de computer in principe open staat voor een veranderende betekeniscontext. Uit deze twee aspecten blijkt dat de mens het model van de computer is, aangezien het de mens is die berekent en de mens is die zich aanpast aan verschillende taalcontexten, afhankelijk van waar hij of zij zich bevindt, in een universiteit of een slager, dat is al een wereld van verschil. Hiermee zien we dat de uitvinding van de computer voor Turing eigenlijk al vanaf het begin verbonden was met de uitvinding van AI.
Machine learning
Dat brengt ons bij de uitvinding van machine learning, die Turing in 1951 schrijft in een relatief onbekende tekst, maar wel een die de ideeën achter de huidige vormen van machine learning, met name het trainen van een model, zoals we dat bij CAPTCHA zien (klik op alle fietsen in dit plaatje) al uiteen zet. Als we ons daadwerkelijk aanpassen aan de betekeniscontext waar we ons in bevinden, dan doen we dat continu en zijn we in staat om ons in veel potentiële contexten in te bedden, gegeven genoeg tijd om te leren door te doen. Turing denkt dan ook dat een AI moet leren door ervaring.4 Wat betekent dat? Voor Turing betekent dat dat een AI een 'ervarings index' moet ontwikkelen.5 Dat wil zeggen dat de AI bijhoudt in welke ervaringssituaties het terecht is gekomen, hoe het heeft gekozen om te handelen en of de handeling een positief of negatief effect had. Stel je voor, je komt voor het eerst in je leven op de universiteit en je probeert te bepalen wat de gedragsnormen zijn. In dat geval maken we gebruik van een soort ervaringsindex: waren er situaties die hier enigszins op leken (bijvoorbeeld op de middelbare school, of bij een lezing in de bibliotheek)? Wat is de gemiddelde reactie op een bepaalde handeling die je gekozen hebt? Ook hier zien we dat Turing een Wittgensteiniaans model van leren door middel van het ervaren van een betekeniscontext hanteert.
Turings toekomst
Vanuit deze vogelvlucht over Turings eureka-momenten, waar natuurlijk nog veel meer over te zeggen valt, wordt één ding heel duidelijk: Turing ziet geen enkele reden om computers of AI fundamenteel van de mens te onderscheiden. Zijn opvattingen over wiskunde en taal (en dus wiskunde als taal) dicteren twee conclusies die hem uiteindelijk enigszins pessimistisch over de toekomst stemmen. Ten eerste: computers zijn mensen en het is dus slechts een kwestie van tijd voordat zelflerende machines zo gevarieerd kunnen functioneren als de mens. Ten tweede: computers kunnen al sneller dan de mens rekenen, dus als ze inderdaad ook zo gevarieerd als de mens kunnen rekenen dan is het slechts een kwestie van tijd voordat ze de vermogens van de mens voorbij streven.
Wat betekent dat voor de mens? Volgens Turing wordt ons intellectuele leven dan volledig bepaald door de poging om te blijven begrijpen wat de machines zeggen. 'At some stage therefore we should have to expect the machines to take control', schrijft hij zelfs in 1951.6 Ook deze voorspelling volgt een Wittgensteiniaanse blik op de mens: wanneer we geconfronteerd worden met een betekeniscontext die zo complex is dat we er moeite mee hebben om het te begrijpen, maar een die een groot deel van ons leven bepaalt, dan zijn we genoodzaakt om te blijven proberen om grip te krijgen op de betekeniscontext van deze supermenselijke machines.
Misschien is dit ook de reden waarom William Gibson in zijn baanbrekende cyberpunk roman Neuromancer (1984) schrijft over een controlerende instantie, de Turing Cops, die AI’s registreren en zorgen dat ze aan banden worden gelegd, zodat ze zich niet voorbij een bepaald punt kunnen ontwikkelen. Geketende supermenselijke machines zijn dus wellicht het fictionele erfgoed van Turing.
1 Diamond, Cora, ed. Wittgenstein's Lectures on the Foundations of Mathematics. (Chicago 1989).
2 Copeland, B. jack, The essential Turing: Seminal writings in computing, logic, philosophy, Artificial Intelligence, and artificial life plus the secrets of Enigma. The ideas that gave birth to the computer age (Oxford 2004), 30.
3 Ibid, 40-1. Zie ook deze formulering op pagina 41: 'Computable' numbers are include all numbers which would naturally be regarded as computable.' De crux hier is de natuurlijke verwachting van de mens, niet een diep gefundeerde regel van de wiskunde.
4 Ibid, 465.
5 Ibid, 474.
6 Ibid, 475.
