Russische onderzoekers van Youth Laboratories waren benieuwd of een een ki-systeem (kunstmatige intelligentie) in staat is om menselijke schoonheid te beoordelen. Daartoe hadden ze een verkiezing georganiseerd, waarbij de jury bestond uit ‘intelligente’ robots. Het bleek dat die systemen allesbehalve onbevoordeeld waren. 38 van de 44 winnaars was blank. Zelflerend systemen zijn niet objectief. Het algoritme is door een mens geschreven.

Youth Laboratories had de beschikking over 600 000 portretten van mannen en vrouwen uit zo’n 100 landen. Drie ki-systemen bekeken de portretten en kozen hun favorieten volgens zo objectief op basis van bepaalde kenmerken. Le Monde, waar ik dit artikel uit haal, heeft het over criteria, maar het systeem is, stelt de krant later in het artikel, zelflerend en bepaalt dus zelf de criteria. Volgens Le Monde zou huidkleur daar niet bij zitten, maar als ki-systeem nu bepaalt dat donker niet mooi is? Een ki-systeem dat in Amerika door de politie wordt gebruikt bleek zwarten (ten onrechte) twee keer vaker als risicofactor te worden aangemerkt dan blanken. 38 van de 44 winnaars verkozen door de ki-jury bleken blank te zijn. De rest was Aziatisch waarvan slechts een winnaar met een donkerder huid.

Je ontkomt er niet aan de gedachte dat de bijdrage van de programmeurs de uitverkiezing van een zwarte in de weg heeft gestaan.  Dat kan natuurlijk niet aan het ki-systeem liggen, want dat ziet alleen maar pixels en kan natuurlijk aanvinken en rekenen aan, bijvoorbeeld, verhoudingen. Volgens Konstantin Kiselev, van Youth Laboratories, zit het vooroordeel in het algoritme. Van de 600 000 portretten waren er 40 000 van Indiërs en 9000 uit Afrika. Geen daarvan werd door de ‘robots’ als mooi betiteld.

Geen objectiviteit

Van ki hoef je dus geen objectiviteit te verwachten. Kate Crawford van Microsoft heeft voor het Witte Huis aan dit thema heeft gewerkt, stelt dat we moeten oppassen met ki. “Het zou wel eens kunnen zijn dat ki de vooroordelen uit de wereld van de mensen erft.(…) Kunstmatige intelligentie weerspiegelt de normen en waarden van haar makers.”

Bron: Futura-Sciences