Space X-baas Elon Musk: …voorzichtig met KI… (foto: AFP)
Informatische onderzoekers in de VS vinden dat onderzoekers op het gebied van de informatica ook de negatieve maatschappelijke gevolgen van hun onderzoeksresultaten in hun wetenschappelijke verslag in de tijdschriften moeten melden. Dat lijkt me een prima idee dat zou moeten worden uitgebreid naar de hele wetenschap, al denk ik wel dat bij veel onderzoeken die gevolgen moeilijk zijn bloot te leggen.
Kunstmatige intelligentie en webtechnologie zijn controversiële onderwerpen, Informaticaondetrzoeker Brent Hecht vindt het daarom niet meer dan logisch dat onderzoekers in hun publicaties de (mogelijke) negatieve maatschappelijke gevolgen van hun onderzoek meenemen.
Hecht is voorzitter van de academie toekomst informatica (FCA in Engels afko). Zonder dergelijke maatregelen zullen er blind producten ontwikkeld worden zonder dat daar de gevolgen van worden verdisconteerd, vrezen de FCA-leden.
De FCA is weer een onderdeel van ACM in New York, de grootste club van informaticaonderzoekers in de wereld. Op 17 juli heeft die een nieuwe ethische code gepubliceerd. Daarin staat onder meer dat onderzoekers alert dienen te zijn op de maatschappelijke gevolgen van hun onderzoek.
Hecht legt dat uit in Nature. “Het is vrij eenvoudig. Als een beoordelaar of recensent een artikel of congresbijdrage krijgt dan wordt hem/haar gevraagd die ook te beoordelen op intellectuele waarde. We zeggen dat dat ook de evaluatie zou moeten inhouden van de wetenschappelijke waarde van de inschatting van de gevolgen die de auteur geeft. Dat betekent niet dat die de toekomst moet voorspellen, maar, op basis van de literatuur, de mogelijke bijeffecten en onbedoelde toepassingen van die technologie moet zien te achterhalen. Dat is niet iets heel ingrijpends, maar omdat we de beoordelaars beschouwen als de poortwachters van de computerwetenschap, hebben we het er over hoe die wachters de poort openen.”
Hij vindt niet dat bijdragen zullen moeten worden geweigerd als het onderzoek te veel (mogelijk) grote negatieve gevolgen heeft. Beoordelaars zullen, als auteurs in gebreke blijven, er bij de auteurs op moeten aandringen dat ze alle mogelijke negatieve gevolgen beschrijven alvorens er gepubliceerd gaat worden.
Lastiger
Hecht denkt dat deze benadering voor beheerders van wetenschappelijke fondsen lastiger zal zijn en dat de regels mogelijk wat afwijken, maar ook die hebben volgens hem de taak de negatieve gevolgen van wetenschappelijk mee te nemen in hun beslissingen.
Een goed voorbeeld dat navolging verdient (bind ik en ik hoop ik niet alleen).
Bron: Nature