Onderzoekers op het gebied van kunstmatige intelligentie (ki) over de hele wereld hebben opgeroepen niet langer samen te werken met het Zuid-Koreaanse onderzoeksinstituut KAIST, dat samen met het Zuid-Koreaanse bedrijf Hanwha Systems ‘autonome wapens’ ontwikkeld, ook wel ‘moordrobots’ genoemd. Meer dan vijftig ki-onderzoekers uit zo’n dertig landen ondertekenden de oproep.
De onderzoekers zeggen dat ze niet zullen samenwerken met de KAIST-universiteit of gastbezoekers die daarvan afkomstig zijn. Ze vrezen een wapenwedloop op het gebied van ‘moordrobots’. “Er zijn voldoende dingen die je met ki kunt doen om levens te redden, ook in defensieopzicht”, zegt de Australische onderzoeker Toby Walsh die de actie op touw zette, “maar ik maak me zorgen als het doel is autonome wapens te ontwikkelen. Het gaat hier om een erg gerespecteerde universiteit die samenwerkt met een dubieuze partner die internationale normen aan zijn laars lapt.”

De boycot is opgezet in aanloop naar een VN-bijeenkomst in Genève over autonome wapens. Meer dan twintig landen hebben al aangegeven moordrobots in de ban te doen. Het gebruik van ki daarbij heeft voeding gegeven aan de vrees de ontwikkeling van Terminator-achtige systemen, waar nog maar nauwelijks een mens een rol in speelt.

Kwalijk bedrijf

Hanwha is een van de grootste wapenfabrikanten in Zuid-Korea die ook clustermunitie fabriceert. Dat is verboden in een verdrag dat is ondertekend door 120 landen, maar niet door Zuid-Korea, Rusland en de VS.

Walsh werd gealarmeerd door een artikel in de
Korea Times waarin de samenwerking werd vermeld. Hij vroeg maar kreeg geen reactie van KAIST. Sung-Chul Shin, voorzitter van de universiteit, stelde dat die geen enkele intentie heeft dodelijke autonome wapens en moordrobots te ontwikkelen. “We zijn een academische instelling en we hechten aan mensenrechten en aan hoge ethische normen. Ik zeg nog maar eens een keer dat KAIST geen onderzoek zal doen dat de menselijke waardigheid zal aantasten, met inbegrip van automatische wapens die niet bestuurd worden door mensen.”
Toen het bewust centrum in februari j.l. werd geopend sprak Shin over het ‘verschaffen’ van een ‘stevig fundament voor de ontwikkeling van defensietechnologie’. Dat nieuwe centrum richt zich op de ontwikkeling van op ki gebaseerde commando- en beslissystemen, navigatiealgoritmes voor onbemande onderzeeërs, ki-systemen voor slimme vliegtuigen en voor het opsporen en achterhalen van objecten. Inmiddels is die aanduiding van de stek van KAIST verdwenen.

Het Zuid-Koreaanse bedrijf Dodaam Systems maakt al een volledig autonome gevechtsrobot, die in staat is doelen tot op 3 km afstand te detecteren. Klanten zijn, onder meer, VAE en Qatar. Uiteindelijk zal de dodelijk opdracht door een mens moeten worden gegeven, is het verhaal.

Ook de Taranis-moorddroon van het Britse bedrijf BAE Systems zou helemaal zelfstandig kunnen opereren, stelt Walsh. Dergelijke systemen maken volgens hem de wereld alleen maar onveiliger. “Als deze wapens overal gemaakt worden, dan komen ze vroeg of laat in Noord-Korea terecht en daar zouden ze er geen problemen mee hebben die tegen Zuid-Korea te gebruiken.”

Bron: the Guardian