Vincent Icke (afb: WikiMedia Commons)
De Leidse sterrenkundige Vincent Icke, altijd goed voor een dwarse mening, betoogt in de NRC dat kunstmatige intelligentie weinig te maken heeft wat onder intelligentie zou moeten worden verstaan. Die systemen zijn goed in het herkennen van patronen in een zeer begrensd gebied. Dat heeft volgens hem weinig met echte intelligentie te maken. Je kunt er niet mee discussiëren en ki kan je ook niet iets doen begrijpen. Een verband (patroon) geeft je nog geen oorzaken. Eigenlijk zijn ki-systemen maar vrij domme systemen. Ze zouden iets meer moeten kunnen vindt ook Nature, zoals een verband leggen tussen oorzaken en gevolgen.Zo wilde Rohit Bhattacharya voor zijn promotieonderzoek als informaticus met behulp van een ki-algoritme het verband vinden tussen kanker en de kans op succes voor een immuunbehandeling door de genetische aard van de kanker te leggen naast de genetische karakteristieken van het afweersysteem van de patiënt. Daar moest dan uit rollen welke genetische karakteristieken de meeste kans op succes van de immuunbehandeling zouden hebben.
Leuk bedacht maar jammer. Zijn neurale netwerken herkenden patronen van genen die iets met de afweerreactie te maken hebben, maar dat was niet genoeg. Er was eenvoudigweg geen specifiek epigenetisch patroon aan te wijzen dat bepalend was voor de werkzaamheid van de behandeling voor een patiënt.
Verband geeft nog niet aan wat oorzaak en gevolg zijn. Zoals Icke zei kunnen machines (algoritmes) prima patronen herkennen, maar zijn deerlijk verloren om oorzakelijkheid op te sporen. Het grote probleem bij wat we ki (of ai) noemen is dat vaak duister is hoe een ki-systeem tot een bepaalde conclusie is gekomen. Dergelijke systemen zouden volgens Icke ook niet iets kunnen uitleggen zodat een mens het begrijpt. Je moet computers leren wat causaliteit is, maar dat is makkelijker gezegd dan gedaan.
Volgens Bhattacharaya zou dat probleem op te lossen moeten zijn met iets wat oorzakelijke inferentie wordt genoemd, een wiskundige manier om de effecten van variabelen op elkaar weer te geven. Die methode schijnt al door economen en epidemiologen te worden gebruikt, maar nu lijken informatie zoals Bhattacharaya er ook mee aan de slag te gaan om ‘ki’ wat intelligenter te maken.
Wat als?
“Oorzakelijke inferentie is een manier om de manier waarop mensen beslissen te verwiskundigen”, zegt hij. Daarmee zou ki makkelijker met veranderingen om kunnen gaan. Daar hebben de huidige systemen problemen mee en dus ook met verbeelding. Wat als we het eens anders deden, wat als we niet die weg/beslissing hadden gekozen maar die?
Die ‘redeneertrant’ zou al door kiologen zijn gebruikt om pokerspel van ‘intelligente’ systemen te verbeteren. Je zou oorzakelijkheid kunnen gebruiken om ‘verbeelding’ in te programmeren.
De Israëlisch/Amerikaanse informaticus Judea Pearl van de UCLA stelde tijdens een videobijenkomst van Microsoft in 2021 voor dat zulke systemen hypotheses zouden kunnen ontwikkelen en die zelfs kunnen toetsen door proevenvoor te stellen die je moet doen om die hypothese te onderbouwen. Kortom iets wat normaal mensen van vlees en bloed doen.
Voorlopig is die droom van Pearl nog ver weg. De theorie (oorzakelijke inferentie) is er, maar het lijkt nog niet zo makkelijk die in praktijk om te zetten, al is Bhattacharaya optimistisch.