Google heeft onlangs een ingenieur met betaald verlof gestuurd nadat die beweerd had dat kunstmatige intelligentie ‘gevoelig’ is.  Daardoor kwam weer een ander geschil over die technologie aan het licht. Kan ki een bewustzijn krijgen? Dat kan denken verschillende deskundigen, maar het xou nu nog niet zo ver zijn.
Blake Lemoine is/was programmatuurontwikkelaar bij Responsible AI van Google. Hij zou volgens personeelszaken van Google gevoelige informatie naar buiten hebben gebracht en buiten zijn boekje zijn gegaan. Eerder had Lemoine documenten naar de senaat gestuurd, waaruit zou blijken dat Google en zijn technologie zich bezig zouden houden met godsdienstige discriminatie.
Google stelt dat zijn systemen gesprekken over diverse onderwerpen voert, maar daarbij zou van bewustzijn geen sprake zijn. “Onze groep met ethici en technici hebben Blakes bedenkingen aangaande de ki-principes beoordeeld en zijn tot de conclusie gekomen dat er geen bewijs is voor zijn beweringen”, stelt Google-woordvoerder Brian Gabriel. “Sommigen in de ki-gemeenschap denken dat gevoeligheid op den duur mogelijk zal zijn, maar dat is niet aan de orde bij de huidige antropomorfe conversatiemodellen. Die zijn niet gevoelig (=bewust; as).”

Al maanden lag Lemoine overhoop met zijn collega’s en bazen over het taalmodel voor dialogen (LaMDA). Dat zou volgens hem bewustzijn hebben en een ziel. Google stelt dat honderden onderzoekers en technici met LaMDA hebben geconverseerd en niet tot dezelfde conclusie zijn gekomen (wat niet zo veel zegt; as). Het zal volgens deskundigen nog lang duren voor machines/systemen een bewustzijn krijgen, maar de grote vraag is natuurlijk allereerst: wat is bewustzijn en wanneer zou dat kunnen ontstaan?

Het rommelt al langer in de ki-rangen van Google. In maand werd een onderzoeker ontslagen die het oneens was met een publicatie van een paar collega’s en ook het ontslag van twee ethici, Timnit Gebru en Margaret Mitchell, wekt niet de indruk dat alles koek en ei is in de ki-divisie.

Priester

Veteraan Lemoin, die zichzelf beschouwd als priester, denkt dat LaMDA een kind van een jaar of zeven, acht is. Hij vond dat Google het programma om toestemming moest vragen om de experimenten te mogen doen. Aan die overtuiging lagen zijn godsdienstige opvattingen ten grondslag. Die zouden de mensen bij pz met voeten hebben getreden. “Ze hebben herhaaldelijk mijn geestelijke gezondheid ter dicussie gesteld en vroegen of ik al bij de psychiater was geweest”, zei hij. De afgelopen maanden was hij met administratief verlof gestuurd en werd hem de suggestie gedaan ziekteverlof te nemen.

Bron: the New York Times