twee
maanden geleden
blog

Wanneer zijn robots te slim?

Bij Facebook wordt allang veel meer dan alleen nieuwe functionaliteit voor de site bedacht: een beetje techbedrijf wil de mensheid minstens naar de maan helpen. Ten behoeve van onderzoek naar het zelflerend vermogen van robots werden er daarom twee, Alice en Bob, ontwikkeld en tegenover elkaar geplaatst. De hoop was dat de robots met elkaar zouden gaan onderhandelen. Dat deden ze, en hoe – binnen de kortste keren voerden de robots heuse gesprekken. Het probleem: het gebeurde in een taal die niemand verstond. Alice en Bob concludeerden namelijk zelfstandig dat menselijke taal een stuk efficiënter kan en lieten een groot aantal woorden en klanken achterwege. De Facebookers wisten niet hoe snel ze de robots van de stroom moesten halen. Wanneer zijn robots te slim?

Het antwoord vanuit Hollywood is in ieder geval duidelijk: zodra ze mensen de baas zijn. Dat levert namelijk hele griezelige films op, zoals een paar jaar geleden Ex Machina. Regisseur en scriptschrijver Alex Garland onderzoekt daarin of robots een bewustzijn hebben, en wat er gebeurt wanneer ze hun menselijke maker te slim af zijn. Zonder de plot verder te spoilen – ik werd er naar van. En met mij vele anderen, want Ex Machina is zeker niet uniek: losgeslagen robots vormen al decennia een dankbaar onderwerp voor de scriptschrijvers in Hollywood. Al decennialang gaat het in films catastrofaal mis door toedoen van robots: 2001: A Space Odyssey, Alien, Terminator en Blade Runner zijn andere beroemde voorbeelden.

Nu zullen Alice en Bob heus geen concrete plannen hebben gesmeed om de wereld over te nemen, al vraag je je ergens wel af hoe snel ze Skynet zouden hebben opgezet als de stekkers er niét meteen uit waren gerukt. In een film zouden Alice en Bob een noodaggregaat aanspreken, in het geniep op Facebook-accounts inbreken en miljarden devices over de hele wereld overnemen via de apps en website van het platform, het wereldwijde luchtverkeer ontregelen en uiteindelijk de nucleaire lanceercodes bemachtigen. Gelukkig was het geen film.

Hoe slim is te slim?

Toch vraag je je af waarom we robots slimmer blijven maken als we tegelijkertijd zo bang zijn dat ze te slim worden. Elon Musk is als oprichter van onder meer SpaceX iemand die de mensheid naar Mars hoopt te brengen, maar als het aan hem ligt gebruiken we daarvoor geen zelfdenkende robots. Integendeel: hij vindt de ontwikkelingen op het gebied van A.I. zó snel gaan, dat het volgens hem niet anders kan dan dat het ons boven het hoofd gaat groeien. Waar en wanneer het maar kan, waarschuwt hij mensen voor de gevaren van losgeslagen A.I.

Daarin is hij zeker niet de enige of de eerste: al in de jaren ’50 formuleerde sciencefictionauteur Isaac Asimov de drie wetten van de robotica: een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt, een robot moet de bevelen uitvoeren die mensen hem geven (tenzij in strijd met de eerste wet), en een robot moet zijn eigen bestaan beschermen (tenzij in strijd met de eerste of tweede wet). Wie die regels volgt, kan niet anders dan concluderen dat Alice en Bob de tweede regel overtraden.

Gebrek aan wetgeving

Het is goed dat ze van de stroom werden gehaald, maar het had niet per definitie gehoeven. Er hing geen ambtenaar aan de lijn die informeerde of men wel wist waar men mee bezig was, want er is nog helemaal geen wetgeving . Nee, het gebeurde puur omdat de technici ongerust waren (en misschien omdat ze ooit Asimov lazen). Nu is het nog nieuw, spannend en vooral duur, maar in de komende jaren zullen prijzen dalen, en wordt zulke technologie voor meer partijen beschikbaar. Dan zijn er ongetwijfeld bedrijven bij met wat minder verantwoordelijkheidsgevoel. Bovendien waren Alice en Bob specifiek ontworpen om te praten, maar wat als over een jaar of tien IoT-devices, die dan een stuk slimmer zijn dan nu, op die manier zelf aan het denken kunnen slaan?

Geruststellend is dat de genieën in Silicon Valley van tijd tot tijd gelukkig ook met domme robots op de proppen komen. Microsoft lanceerde Twitterbot Tay als ‘experiment in gespreksbegrip’: hoe meer en langer mensen met Tay zouden communiceren, hoe slimmer de bot zou worden. Dat lieten de fijne bewoners van Twitter zich geen twee keer zeggen: binnen 24 uur wisten ze Tay te veranderen in een vrouwonvriendelijke, racistische en zelfs Nazistische Trump-aanhanger. Niet zo gek dus dat ook Microsoft zich gedwongen zag Tay maar weer even op de plank te leggen. Voorlopig is de robotwereldheerschappij nog ver weg.

refresh this page
share this post
with the world
op de hoogte blijven?

Speak Your Mind

*