Een groep bezorgde onderzoekers en ondernemers op het gebied van kunstmatige intelligentie onder auspiciën van het centrum voor ki-veiligheid, acht de dreiging van ki voor de mensheid in de orde van grootte van pandemieën en een kernoorlog. De verklaring van het centrum zou zijn getekend door meer dan 350 ki-betrokkenen waaronder Sam Altman van Open AI, Demis Hassabis van Google DeepMind en Dario Amodei van Anthropic. Daarnaast zouden ook ki-onderzoekers als Geoffrey Hinton en Yoshua Bengio getekend hebben.
Volgens Dan Hendrycks van het centrum voor ki-veiligheid is de verklaring, mede, een uiting van ondernemers die hun zorgen tot nu toe alleen binnenskamers hebben laten horen over de risico’s van een ontwikkeling waar ook zij aan hebben meegewerkt. “De indruk is verkeerd, zelfs in de ki-gemeenschap, dat het om slechts een paar doemdenkers gaat.”

Voorlopig lijken ki-systemen nog op vele terreinen naast verbazingswekkend ook vaak nogal klunzig en bevooroordeeld, maar de ontwikkelingen zouden zo snel gaan dat die systemen de mens op vele terreinen zouden (kunnen) overvleugelen en zich zullen ontpoppen tot kunstmatige algemene intelligentie (nu is zo’n ki-systeem vaak nog heel erg gespitst op een zeer beperkt terrein).
Altman heeft al eerder tegenover leden van het Amerikaanse Congres (parlement) zijn zorgen uitgesproken en aangedrongen op adequate regelgeving. Al veel eerder maakten ki-deskundigen zich zorgen over de riskante kanten van ki.

Onlangs nog bepleitten onderzoekers een pauze in het ontwikkelen van de grootste ki-systemen zoals ChatGPT van OpenAI.

Bron: New York Times