Ki wordt snel bijdehanter (afb: uit rapport)

Nu de hele wereld als een gek achter het fenomeen kunstmatige intelligentie aan holt en er in Parijs een heuse ki-top is waarschuwt een rapport (pdf-bestand) voor de kwalijke en gevaarlijke kanten van het fenomeen. In Parijs weigerden het Verenigd Koninkrijk en de Verenigde Staten een verklaring te ondertekenen dat ontwikkelingen van ki ‘inclusief en duurzaam’ moeten zijn.
Volgens het rapport is de veiligheid van kunstmatige intelligentie in de toekomst onzeker. Yoshua Bengio, hoogleraar aan de universiteit van Montreal en een veelvuldig bekroonde pionier op dit gebied, heeft als voorzitter van de deskundigengroep een belangrijke bijdrage aan dit rapport geleverd.
Hij schreef in 2023 twee bijdragen waarin hij de alarmbel luidt over de ontwikkeling van ki in 2023. In een artikel riep hij op tot een pauze in de ontwikkeling van kletsrobots als ChatGPT. Hij ondertekende ook een petitie waarin bezorgdheid werd geuit over een ki-gerelateerd uitstervingsrisico, vergelijkbaar met pandemieën en kernoorlogen en waarin werd opgeroepen om dit gevaar te reduceren. Een prioriteit voor de wereld, in zijn ogen

Het 300 pagina’s tellende rapport, dat is geschreven door honderd deskundigen uit dertig landen, is een stuk ingetogener. Bengio, die in november 2023 door de Britse regering, de initiatiefnemer van het rapport, werd aangesteld, wilde er, alles in aanmerking genomen, een document van maken dat vergelijkbaar was met de wetenschappelijke rapporten van het VN-klimaatforum.
Over ki worden een hoop soms zelfs tegenstrijdige dingen gezegd, niet alleen door leken. Wat er werkelijkheid wordt is ongewis. “Er is een breed scala aan mogelijke uitkomsten, zelfs in de nabije toekomst, waaronder zowel zeer positieve als zeer negatieve, en alles daartussenin”, schrijven de deskundigen. Ki heeft een enorm potentieel voor tal van vakgebieden. “Als ze goed worden beheerd, kunnen algemene ki-systemen het leven van mensen wereldwijd aanzienlijk verbeteren.
Om de voordelen van deze technologie veilig te kunnen plukken, moeten onderzoekers en beleidsmakers de risico’s die ermee gepaard gaan, onderkennen en maatregelen nemen om deze te beperken, stellen de onderzoekers. Algemene ki veroorzaakt vandaag de dag al schade door kwaadaardig gebruik en storingen, bijvoorbeeld door verspreiding van grote nonsens, oplichting of bevooroordeelde uitkomsten. Het aantal negatieve ontwikkelingen zouden ook nog kunnen toenemen, schrijven ze.
“De ergste uitkomsten kunnen zijn dat er risico’s ontstaan ​​zoals grootschalige werkloosheid, ki-terrorisme of het verlies van de controle over algemene ki-systemen door de mens”, schrijven de onderzoekers. “Deskundigen verschillen in hoe waarschijnlijk of dreigend zij dergelijke risico’s vinden en in hoe zij het bestaande bewijsmateriaal interpreteren. Sommigen denken dat dergelijke risico’s nog tientallen jaren weg zijn, terwijl volgens anderen denken dat het al in een paar jaar tot ernstige gevaren voor de openbare veiligheid kan leiden.”

Er bestaan ​​technische methoden om de risico’s van ki-systemen aan te pakken, maar ze hebben allemaal beperkingen, stellen de deskundigen. Verschillende kenmerken van algemene ki, gaan ze verder, maken het echter moeilijk om risico’s aan te pakken.
Een belangrijk probleem is dat het, ook voor deskundigen, vaak duister is hoe ki-systemen tot hun uitkomsten komen. Dat zou een stuk transparanter moeten worden, vinden de deskundigen. “Ki overkomt ons niet. Keuzes die door mensen worden gemaakt, bepalen de toekomst ervan.”

Wie of wat?

Het wordt een lastig verhaal. Hoe gaan we die ontwikkelingen sturen (als daar al behoefte aan is)? Wie of wat houdt zich met die ontwikkeling bezig en voor wie of wat? Dat wordt een groot probleem. De antwoorden op deze en vele andere vragen zijn afhankelijk van de keuzes die samenlevingen en overheden vandaag en in de toekomst maken om de ontwikkeling van ki vorm te geven, schrijven de samenstellers.

Dat maakt een internationale overeenkomst gewenst. Voorlopig zijn de grote techbedrijven de voornaamste spelers en springen paniekerige overheden op de al rijdende trein en lijkt er weinig neiging te zijn de ontwikkelingen in goede banen te leiden. Militairen zijn nu al bijzonder geïnteresseerd en inlichtingendiensten zullen het broodje-ki ook niet laten liggen. En dan hebben we het niet eens over het absurde energieverbruik van ki gesproken.

Bron: le Monde