Google zet met zijn project DeepMind stevig in op kunstmatige intelligentie (ki). Al van diverse kanten is er gewaarschuwd: Kijk uit, ki kan de mens overvleugelen en haar eigen ‘leven’ gaan leiden, onze schijnwerkelijkheid. Er wordt nu gewerkt aan een ‘rode knop’ om te voorkomen dat ki-systemen onwenselijke dingen gaan doen.
Kunstmatige intelligentie is prachtig, maar het gevaar dreigt dat de machines de boel gaan overnemen. Hebben we nog mensen nodig als de machines betere en intelligentere oplossingen verzinnen? Niet toch, maar stel nu eens dat die machines beslissingen nemen of opdracht geven tot acties die hun makers, wij mensen, onwenselijk of zelfs schadelijk vinden. Dan zou er een systeem moeten zijn die de machineintelligentie een halt toeroept: een rode knop? Die toekomst is echt niet meer zo heel ver weg van vandaag. Dan hebben we het niet over de ‘intelligentie’ waarmee machines spelletjes als go en schaken winnen. Daar is weinig intelligents aan, maar meer een resultaat van rauwe rekenkracht.
DeepMind, dat in Engeland gevestigd is, heeft contact gezocht met het instituut voor de toekomst der mensheid, een onderdeel van de universiteit van Oxford. Daar wordt gewerkt aan antwoorden op de grote vragen waar de mensheid mee te maken krijgt. Nog is dat mensenwerk. In een gezamenlijk artikel van DeepMind en het instituut wordt gesproken over een grote rode knop om een ki-systeem tot de orde te roepen die een computer of robot aanstuurt, dat ‘uit de bocht’ dreigt te vliegen. Dan gaat het niet simpel om een knop die de stroom uitschakelt, want intelligente systemen moeten met dergelijke situaties kunnen omgaan. Het systeem zou het idee moeten krijgen dat de beslissing vanzelf komt, een gecodeerd signaal dat het ki-systeem zegt dat dat moet ophouden waar het mee bezig is. Daardoor zou de robot of de computer ook ‘extrerne’ opdrachten accepteren.

Met dit onderzoek schaart Google/DeepMind zich in feite in het rijtje van ki-deskundigen en andere intellectuelen die zich ongerust maken over de mogelijke ‘ontsporingen’ van machineintelligentie. Of de ontwikkelaars en onderzoekers van DeepMind zich echt ongerust maken is niet duidelijk, maar Google wil in ieder geval voorkomen dat het grote publiek zich tegen de webreus zal keren. Dat het bedrijf daar gevoelig voor is lijkt aangetoond met het (voorlopig?) staken van het brilproject. De mensen werden bang voor de spionagemogelijkheden van die futuristische bril. De volgende vraag is natuurlijk: wat is onwenselijk (en wie bepaalt dat)?

Bron: Futura-Sciences