Algoritmes worden steeds ingewikkelder, zo ingewikkeld dat we niet kunnen voorspellen wat ze gaan doen. Bij veel toepassingen kunnen je dan grenzen stellen (stel ik (=as) me zo voor) maar bij wat wij kunstmatige intelligentie noemen (ki) ligt dat wat lastiger.
Rahwan zat op een zonnige dag in oktober 2017 samen met een collega Manuel Cebrian van het medialab van het MIT in Cambridge (VS) te delibereren over de omschrijving van hun vakgebied. Met de opkomst van ki worden er ook steeds meer vragen gesteld over de relatie tussen mens en machine. Rahwan was op dat moment bezig met de ‘ethische’ gedrag van een zelfbeweger.
Hij vroeg zich af waarom biologen die diergedrag bestuderen zich (ook) niet bezighouden met de bestudering webbots. Waarom doen informatica dat alleen? Toen viel het kwartje bij hem: “We bestuderen gedrag in een nieuw ecosysteem (de machinewereld; as).”
Inmiddels werkt de machinesocioloog voor het Mens & Machine-centrum van het Max Planckinstituut voor menselijke ontwikkeling. Hij heeft daar 22 deskundigen om zich heen van diverse pluimage: psychologen, informatici, sociologen, ki-deskundigen evolutiebiologen enzovoort. Ze bedrijven een nieuw vakgebied: machinegedrag.

Rahwan en de zijnen hebben zich laten inspireren door de Nederlandse gedragsbioloog Niko Tinbergen. Die stelde vier vragen om het diergedrag te analyseren op functie, mechanisme, biologische ontwikkeling en evolutionaire geschiedenis. Machinegedrag zou moeten onderzoeken hoe kunstmatige actoren zich in het wild gedragen, met mensen en met hun omgeving en met elkaar. Studieobjecten zouden kunnen zijn ki voor kinderspeelgoed, algoritmes die het nieuws klasseren of een vloot zelfrijdende voertuigen. Anders dan de ontwerpers van die systemen, die streven naar een optimale prestatie, zal de machinegedragdeskundige er van buiten af tegenaan koeten kijken net zoals gedragsbiologen doen bij het bestuderen van dieren of sociologen bij mensen.
Rahwan:”Ik hecht aan die term gedrag omdat het gaat over het waarneembare en niet het onwaarneembare.” Hij vindt het om twee redenen belangrijk om te bestuderen. We komen in aanraking met steeds meer autonome systemen maar daarbij zijn de ‘gedragingen’ van die systemen steeds lastiger te voorspellen op basis van de bestudering van de machinecode of van de constructie op zich. “Er is een geweldig belangrijke kant aan machines die niets te maken heeft met hoe ze zijn gebouwd maar alles met wat ze doen”. zegt Rahwan.

Technische problemen

Hij denkt dat als we machinegedrag bestuderen we beter voorbereid zijn op (mogelijke) technische problemen. Je hoeft dan alleen maar te denken aan de problemen die zich voordoen bij het tegengaan van nepnieuws. “Misschien waren we in staat geweest om immuniteit (?; as) in het systeem in te bouwen, zodat het zichzelf corrigeert”, zegt de machinesocioloog. Zou hij dat echt geloven?

Hij denkt dat we lessen kunnen trekken uit wat gedragsbiologen hebben ontdekt. Die moeten dan wel vertaald worden naar machinegedrag. “Wat is het machinegedragekwivalent van de ineenstorting van een populatie? Of van soortvorming? Is er een analogie die we kunnen gebruiken om problemen te onderkennen die de democratie ondermijnen, de vrijheid van meningsuiting en andere waarden die we koesteren. Dat is het grote doel.”
“Machines beloven ons leven te verbeteren, de productiviteit te verhogen en informatie binnen handbereik te brengen, maar veel mensen zijn bang voor wat die machines doen. Ik denk dat de wetenschappelijke bestudering van het gedrag van machines belangrijk is en ons kan helpen bij de discussie hoe we dat kunnen beheersen. Gaan de ontwikkelingen snel? Zouden we ze moeten sturen en zo ja hoe dan? Enzovoort. De bestudering van machinegedrag is de wetenschappelijke taak in dienst van een bredere sociale taak om met machines om te gaan.”

Bron: Quanta Magazine