Stephen Hawking (afb: WikiMedia Commons)

Het is natuurlijk al vaker gezegd en voorspeld: de mensheid gaat aan haar eigen schepsels ten onder. De waterstofbom leende zich daar natuurlijk het beste voor, maar ook de door mensen veroorzaakte milieurampen waren goede kandidaten om een eind te maken aan de wereld/mensheid. De nieuwste door de mens veroorzaakte ramp is de aardopwarming. Hoe dat zal aflopen is nog niet te voorspellen, maar het gebrek aan daadkracht bij de wereldleiders is niet erg bemoedigend. Er zijn ook andere kapers op de kust, om maar eens een in dit verband rare beeldspraak te gebruiken: kunstmatige intelligentie en genoombewerking. De befaamde Britse Stephen Hawking heeft al vaker voor de gevaren van ki gewaarschuwd, maar vlak het vermogen genetisch materiaal te bewerken niet uit. In de Britse krant the Guardian stelt Engels/Japanse schrijver Kazuo Ishiguro dat de genoombewerking onze menselijke waarden zou kunnen aantasten.
Zwart geschilderd lijkt het er op op of de mens de greep dreigt kwijt te raken op een aantal daar de mens zelf in gang gezette ontwikkelingen of die greep misschien al kwijt is. Het is grappig dat in het rapport van Schnabel c.s. over onderwijs in de toekomst het hele begrip kunstmatige of artificiële intelligentie niet voorkomt. Het lijkt me in dit verband geen onbelangrijk thema. Je kunt je natuurlijk afvragen wat je nog op school moet leren als allerlei technologische systemen de mens links en rechts voorbijgaan.
Stephen Hawking heeft al vaker op de gevaren van ki gewezen. Hij wordt daarbij nogal eens als zwartkijker weggezet, maar je zou je op zijn minst toch eens kunnen afvragen wat er gaat gebeuren als de machine-intelligentie de menselijke voorbijstreeft. Welke rol is dan nog voor de mens weggelegd? Dan denk ik nog niet eens aan de kwalijke gevolgen als een superieure ki-technologie in verkeerde handen terechtkomt.
We zijn zo langzamerhand verslaafd geraakt aan digitale verbondenheid. Overheden en bedrijven hebben het steeds vaker over ‘slimme’ oplossingen en apparaten, over ‘slimme’ steden, maar als je een recept voor mislukking wilt hebben gok dan op ‘slimme’ oplossingen.
‘Slimme’ oplossingen zijn door slimme mensen prima te gebruiken om allerlei niet voorziene dingetjes mee te doen. Je ‘slimme’ energiemeter gebruiken om te kijken of je op vakantie bent of de energievoorziening stilleggen. Die slimme mensen, waartoe ik niet behoor, zijn reuzeblij met ‘slimme’ oplossingen. Die hebben namelijk altijd te maken met het wereldwijde web.

Fabrieksautomatisering

Hawking zegt dat hij een optimist is, en dat moet ook wel met de vreselijke spierziekte die hij heeft, maar zijn verhaal komt toch aardig in de buurt van hel en verdoemenis. “De fabrieksautomatisering heeft de banen in de traditionele productie gedecimeerd en de kunstmatige intelligentie zal die baanvernietiging uitbreiden tot diep in de middenklasse”, stelt Hawking. Alleen de zorgende, creatieve en leidinggevende banen zullen dan nog blijven bestaan, denkt hij. Hoe lang nog? Wat gebeurt er als er steeds minder banen overblijven, vraagt hij zich af. Hawking is er van overtuigd dat de ongelijkheid nog verder zal stijgen.
Hawkings oplossing is samenwerking. “We lopen tegen grote milieuproblemen aan: klimaatverandering, voedselproductie, overbevolking, achteruitgang van de soorten, epidemische ziektes, verzuring van de oceanen”, zegt hij, die overigens niet allemaal los van elkaar staan. Hoe die samenwerking tot stand moet komen lijkt mij een gigantisch probleem en vooral wat die nieuwe (?) elites zullen doen in dat proces.

Tweedeling

De verbeelding van CRISPR/Cas9

Ook de Engelse schrijver van Japanse komaf Kazuo Ishiguro heeft het over tweedeling, maar die wordt in zijn verhaal uitgehaald door de snel voortschrijdende ontwikkeling van de genoomtechnologie. Hij denkt dat door die technieken de elite die techniek zal gebruiken om slimmer en gezonder te worden en langer te leven en dat de rest een onderklasse zal vormen van ‘laagwaardige’ schepsels. Inmiddels zijn onderzoekers in China al bezig te oefenen met menselijke cellen en lijken steeds meer onderzoekers er op aan te dringen te beperking met de gentechnieken bij menselijke cellen en bij mensen te versoepelen.

“We komen op een terrein waar een hoop zaken zoals we die in onze maatschappij georganiseerd hebben plotseling overbodig zullen lijken”, zegt hij. “In democratieën leven we met het idee dat mensen in wezen gelijk zijn. We komen dicht bij het punt dat we mensen kunnen creëren die superieur zijn aan anderen.” The Guardian sprak met de auteur aan de vooravond van de opening van de permanente tentoonstelling in het wetenschapsmuseum in Londen, waar ook een machine staat van zijn vader Shizuo, een oceanograaf, waarmee stormvloeden zouden zijn te voorspellen. De schrijver hoopt dat de tentoonstelling mensen er toe aanzet over wetenschap en toekomst na te denken. “Ondanks de atoombommen en dergelijke zaken, blijven we de gewoonte houden de wetenschap in delen te bezien.” Hij vindt, zo interpreteer ik het maar even, dat we de wetenschap is zijn/haar context moeten bezien: de goede maar ook de bedenkelijke kanten en de gevolgen voor de maatschappij. Naast genoombewerking, ziet hij robotica en kunstmatige intelligentie als de terreinen die ons leven de komende dertig jaar drastisch kunnen veranderen. Ishiguro schreef in 2005 een boek (‘Never let me go’) waarin menselijke klonen werden ‘gefokt’ voor hun organen.

Ki

Ook ki en robotica ziet hij als technologieën die de wereld drastisch zullen veranderen. Daarbij zijn de techbedrijven uit, vooral, Amerika leidinggevend. “Er zijn machtige en rijke mensen die op dit terrein veel onderzoek willen doen. Sommigen zullen met mooie dingen komen, maar ik vind dat de maatschappij zich er meer mee moet bezighouden.”
Ki en genoomtechnologie zullen, schat ik, de mensheid niet ten onder doen gaan. Het zijn echter wel technologieën waarmee we de maatschappij (maatschappijen) op scherp zetten. Gevoegd bij de aardopwarming en de nog steeds groeiende wereldbevolking kan dat een explosief mengsel worden, waarbij de mens er niet langer meer toe doet. In die zin gaat de mensheid dan ten onder, al moet het niet worden uitgesloten dat de mens ook als soort het loodje zal leggen.

Bronnen: the Guardian, CNet