Ben Goertzel (afb: singularitynet.io)

In de wetenschap lijkt kunstmatige intelligentie al haast onvermijdelijk en veel mensen maken zich druk om de mogelijkheden van ki om nepinformatie te creëren of over de banen die we aan ‘slimme’ systemen kwijt zullen raken, maar het grote gevaar is natuurlijk dat ki-systemen slimmer worden dan de mens. Dan lijkt de rol van de mens uitgespeeld, verslagen door zijn eigen wrochtsels. Waarom zou je mensen nog opleiden als ki dat kreupele zoogdier op alle fronten voorbij is gestreefd?  Er is zelfs een kans dat de wereld daarvan opknapt. Volgens ki-deskundige en oprichter van SigularityNET Ben Goertzel zal ki de mens zo ergens tussen de drie en acht jaar in intelligentie voorbijstreven.
Eerder had Ray Kurzweil het over twintig jaar, terwijl de baas van Google DeepMind schatte dat dat tijdstip nog tien jaar verderop zou liggen. Technologische singulariteit wordt dat tijdstip genoemd waarop ki zich zonder hulp van de mens zelf verder kan verbeteren. Waar leidt dat toe?
In een onderhoud met Dycript zei Goertzel dat mede door de ontwikkeling van grote taalmodellen zoals ChatGPT van Open AI en van Llama2 van Meta echte vooruitgang was geboekt. Die zou ook de geesten rijp hebben gemaakt voor het gebruik van ki. “Veel jonge slimme mensen willen met algemene ki aan de slag gaan.”

Positief

“Onze visie is om te streven naar een positieve, nuttige, welwillende singulariteit ten behoeve van de hele mensheid”, zei  Janet Adams van SingularityNET tegen Decrypt in augustus. Volgens haar  is robotica essentieel bij het bereiken van de singulariteit, want zonder handen en voeten kan een ki-systeem niet zoveel. Dan lijkt het meer op die hersens en dat ene oog die in leven worden gehouden uit een verhaal van Roald Dahl.

Terwijl andere ki-ontwikkelaars en wetenschappers hebben aangedrongen op het inbrengen van menselijke normen en waarden in generatieve ki-modellen, stelt Goertzel dat waarden met de tijd veranderen. “We willen niet dat ki precies doet wat we vandaag de dag goed vinden. Wat we nu denken dat over twintig jaar goed is, zal over twintig jaar niet meer zijn wat we vandaag denken dat goed is.”
Er zijn heel wat bedrijven die zich op de ontwikkeling van algemene ki hebben geworpen, dus op ki die niet op een specifiek gebied heel ‘slim’ is. Vreemd is dat nog maar weinig mensen zich druk maken over de werkelijke gevolgen van ‘slimme’ systemen zoals het verdwijnen van de noodzaak mensen nog langer naar school te laten gaan.

Veel ki-ers denken dat ki goed is voor meer banen, maar Goertzel denkt dat het overgrote deel (80%) van de banen zal verdwijnen door ‘slimme’ systemen. Een wezenlijk probleem met ki bespreekt hij niet: de ondoorzichtigheid van die systemen. Bij de meeste ki-systemen is het volstrekt onduidelijk hoe die tot een beslissing of conclusie komen. Daarbij speelt een grote rol dat in de ontwikkeling van ki techbedrijven met groot enthousiasme het voortouw hebben genomen en daar is transparantie niet bepaald gebruikelijk. Rishi Sunak, premier van het VK, heeft onlangs een eerste ki-bijeenkomst bijeengeroepen in een reeks die juist dat soort problemen zou moeten aanvatten.

Bron: Futura-Sciences