Space X-baas Elon Musk: …voorzichtig met KI… (foto: AFP)

150 onderzoekers op het gebied van kunstmatige intelligentie hebben een open brief geschreven, waarin ze benadrukken dat het onderzoek op dit terrein niet moet worden gericht op het maximaal haalbare, maar op het grootst mogelijke nut voor de mens. In de brief, niet alleen ondertekend door universitaire onderzoekers, maar ook door medewerkers van bedrijven als Google en IBM, waarschuwen de KI-ers voor de gevaren van dit onderzoeksgebied. “De mogelijke voordelen zijn enorm, aangezien alles dat onze beschaving brengt te danken is aan intelligentie. We kunnen niet voorspellen wat we kunnen bereiken als die intelligentie wordt versterkt door KI, maar de overwinning op ziekte en armoede is niet ondenkbaar. Juist vanwege de grote mogelijkheden, is het zaak misstappen te vermijden”, zo stellen de ondertekenaars. 

In de brief wordt een groot aantal prioriteiten opgenoemd, die het onderzoek op het ‘rechte pad’ kunnen houden. Op de korte termijn zal de aandacht vooral moeten gaan naar de economische effecten van KI, de wettelijke en ethische gevolgen en de mogelijkheid KI ‘hard’ te maken en te laten doen wat het gedacht wordt te doen. Als zelfrijdende auto’s het aantal verkeersslachtoffers halveren, dan zou het wel eens zo kunnen zijn dat er niet zoveel bedankjes komen, maar juist zoveel rechtszaken, stellen ze (die opmerking geldt vooral de Amerikaanse schadevergoedingspraktijken, die elders veel minder prominent zijn).
Op de lange termijn zou het onderzoek de richting op moeten van de fundamentele problemen die KI zou kunnen opleveren, zoals het superieure kunstmatige brein die de zaak overneemt. De mens zou de controle moeten houden. Eerlijk gezegd lijkt me dat nogal naïef. Kunstmatige intelligentie gebruiken we, denk ik, toch vooral om onze eigen intellectuele bereik te vergroten. Je zou kunnen zeggen dat dat wel uit de hand moet lopen omdat wat die ‘overmatige’ intelligentie ons biedt, ons bijna per definitie boven de pet zal gaan. De mens is al gauw geneigd de ‘computer’ te geloven, uit geestelijke gemakzucht of uit onvermogen, onvermogen te bevatten wat die superieure intelligentie beoogt, maar dit als mijn (=as) commentaar.

De brief is ook ondertekend door de bijna onvermijdelijke Stephen Hawking en Elon Musk. De laatste is een grootheid in de VS en onder andere bekend van de Tesla Motors, Paypal en Space X. Musk heeft in het verleden al vaker gewaarschuwd voor de gevaren van KI. “Ik denk dat we daar voorzichtig mee moeten zijn. Als ik moet gokken wat onze grootste bestaansbedreiging is dan gok ik op KI.”, zei Musk het vorig jaar. “Ik ben steeds meer geneigd naar het idee van een toezichthouder, wellicht op nationaal en internationaal niveau. Gewoon om er zeker van te zijn dat er geen gekke dingen gebeuren.” Hij was een van de vroegste investeerders in Vicarious, een bedrijf dat een computer wil maken die denkt als een mens. Musk deed dat omdat hij Terminator-achtige toestanden verwacht als het fout loopt met KI.

Bron: the Guardian