Stephen Hawking waarschuwt voor de komst van kunstmatige intelligentie en Elon Musk investeert erin om te voorkomen dat het uit de klauwen loopt. Dat laatste is misschien niet eens zo raar, omdat wanneer robots en kunstmatige intelligentie op een dag verschijnen, het niet onverstandig is als we ons niet blindstaren op de mogelijkheden, maar ook kritisch kijken naar de beperkingen en gevaren. Is dat technofobie of met beleid ontwikkelen?

Tussen luddiet en innovator

Beveiligingsbedrijf Kaspersky stuurde ons gisteren nog een persbericht over de verrobotisering van de maatschappij met de volgende tekst erin: "Waarschijnlijk zullen technofoben in opstand komen om zich te verzetten tegen de ontwikkeling van intelligente huizen, geautomatiseerde levensstijlen en robots. Tegenstanders van IT-ontwikkelingen zullen niets te maken willen hebben met slimme systemen, apparaten en robots voor bepaalde soorten werk, en willen geen digitale identiteit hebben."

Maar helaas wordt die aangehaalde 'IT-ontwikkeling' vaak gestuurd door mensen die niet goed beseffen waar ze mee bezig zijn (*kuch managers kuch*). Die alles maar aan een internetverbinding prikken en jubelen over de nieuwe features. Die privacy te grabbel gooien omdat het handiger is zonder dergelijke archaïsche beperkingen. Is het technofoob om je daartegen te verzetten? Juist een bedrijf als Kaspersky zou toch beter moeten weten.

Let it go, let it go

Deze week stelde een opiniestuk op The Next Web dat het tijd is dat de wereld loskomt van zijn angst voor vooruitgang en dat we maar eens volwassen moeten worden. Dat stuk moet wel satire zijn, getuige zinnen als "technologische vooruitgang heeft levens altijd verbeterd" en "nieuwe technologieën als sociale media en mobility hebben de wereld toegankelijker, transparanter en toerekenbaarder gemaakt". Kostelijk!

Mocht je meer geïnteresseerd zijn in wat bijvoorbeeld AI ons kan bieden in plaats van de potentiële rampspoed waar we op afstevenen, op dit moment staat op Computerworld een stuk over de goede dingen die kunstmatige intelligentie ons biedt: 5 manieren waarop AI ons van de ondergang redt.

Laten we op de volgende pagina even beginnen met de onvermijdelijke kanttekening bij kunstmatige intelligentie en dat is niet eens een doemscenario over nucleaire oorlogen tegen de mensheid, maar AI die ons beslissingsproces begint te manipuleren.

Een op hol geslagen militaire robot kan natuurlijk ook vriendelijk en leuk uitpakken. Hoe groot schatten we die kans?

1. AI manipuleert de mensheid

Het nachtmerriescenario van kunstmatige intelligentie is een machine die beslissingen neemt op basis van rationele overwegingen die leiden tot situaties waar we als mens niet blij van worden, waarschuwen onder meer Stephen Hawking en Elon Musk. Is het een slecht idee om een intelligentie in je ecosysteem te introduceren die hoger op de evolutionaire ladder staat dan de mens, of is dat doemdenkerij van mensen die te veel sciencefictionfilm hebben gezien?

Zo'n vaart zal het niet lopen, denken voorstanders van de onvermijdelijke singulariteit. Bijvoorbeeld door intelligentie te ketenen aan hardcoded regels, iets waarover Asimov hele boekenplanken vol heeft geschreven. Een andere reden waarom het niet zo'n vaart zal lopen, is omdat AI geen daadwerkelijke controle heeft. Geen oorlog van mens versus robot, omdat de intelligentie alleen adviseert en niet zelf acteert.

Maar zelfs als AI enkel een adviserende rol heeft, hoe zorg je ervoor dat je als gebruiker niet wordt gemanipuleerd? Als een adviesrol een scenario oplevert dat door de menselijke mediator als onwenselijk wordt bestempeld (bijvoorbeeld als oplossing voor overbevolking één kind-regel met gedwongen abortus - om maar eens een onbeladen idee aan te snijden), kan de werkelijk zelfdenkende intelligentie zijn invloed aanwenden om ons te laten inzien dat zijn eerdere advies op termijn de beste oplossing is.

Mensen zien niet wat de AI ziet. Zoveel ruwe data kunnen analisten niet verwerken: daar is juist de intelligentie voor in het leven geroepen. De consequentie daarvan is dat we voor een groot deel maar op die analyse moeten vertrouwen. Op klein niveau kunnen we ruwe data wel duiden, maar een macro-economische beslissing gebaseerd op tientallen jaren aan beursgegevens en wie weet wat voor andere datasets?

In hoeverre vertrouwen we een intelligentie die met een gevoelsmatig verkeerd advies komt, maar ons nog niet eerder met op het gevoel vreemde adviezen de verkeerde kant opstuurde? Dit zijn nou het soort aspecten waarover moet worden nagedacht voordat de intelligentie wordt geïmplementeerd en gebruikt door mensen die zich hier mogelijk niet van bewust zijn.

Hierna: Dodelijke drones worden efficiënter. In de serie Person of Interest een mooi voorbeeld: de 'afdeling Research' is een AI die zelf besluit welke informatie relevant is voor zijn menselijke bazen onderdanen. Mogen we de ruwe data inzien? Nee.

2. Drones evolueren tot zelfsturende robots

Drones worden steeds meer geassocieerd met boeiend consumentenspul en de moordende vliegtuigjes in het Midden-Oosten, maar in de kern gaat het daarbij om op afstand bestuurbare bots. Drones zijn daarom nu nog vooral hersenloze robots en maken zelf geen beslissingen - dat is de essentie van de hedendaagse drone. Maar dat gaat veranderen. Sterker nog, dat ís al veranderd.

De volgende stap zijn drones die functioneren als zelfsturende robot. En goed nieuws voor de aluhoedjes onder ons: die zijn er al. De Amerikanen experimenteren met drones als de X-47B, die niet meer volledig bestuurd wordt door een militair, maar zelf opstijgt, landt en bijtankt. Het doel is om de drone te vervangen voor deze robot - inclusief bewapening - waar geen mens aan te pas hoeft te komen.

Nog enger: Samsungs wapenbedrijf Samsung Techwin produceert al jaren een bewapende robot voor grensbewaking. De SGR-A1 wordt bijvoorbeeld momenteel ingezet in de DMZ tussen Noord- en Zuid-Korea. De robot bepaalt zelf risico's en selecteert doelen, maar er moet momenteel een mens aan te pas komen om het bevestigde machinegeweer daadwerkelijk te laten vuren. Vanaf daar is het een piepkleine stap om die tussenvorm weg te halen en de robot zelf te laten beslissen.

Tel daarbij op een toekomstbeeld wat sommigen 4D-printen noemen: een printer die zelf onderdelen print en assembleert, kortom een robot kan zich straks voortplanten. Bij het stuk over kunstmatige intelligentie namen we het S-woord niet in de mond, maar met de koppeling van AI aan deze militaire robots, gaan we het wel gewoon doen: Skynet.

Lees door voor de implantaten die een horrorbeeld oproepen. Demofilmpje van Samsungs militaire robot.

3. Implantaten worden IoT-apparaten

Sommige mensen gaan al zover om een NFC-chip in hun hand te laten zetten. Het mooie van zulke chips is dat ze passief zijn en pas werken op het moment dat ze via een NFC-veld worden aangesproken. Bovendien geeft die specifieke chip in de hand alleen maar informatie af en ontvangt hij niets. Maar het blijft niet bij NFC-chips en niet alleen bij handen.

De cyborgs zijn trouwens al onder ons. Technologische vooruitgang levert ons veel goede dingen: botverankerde implantaten geven dove mensen weer gehoor, neurostimulatoren zorgen voor een vertraagd verloop van slopende ziektes als Parkinson, pacemakers verlengen het leven van hartpatiënten en bionische ledematen geven geamputeerden mobiliteit terug.

Deze apparaten worden ook steeds slimmer. Er wordt functionaliteit aan toegevoegd, zodat apparaten via een netwerk zijn te bedienen. Dat is vragen om rampspoed, zo is al meerdere malen gebleken bij hacks die door onderzoekers worden uitgevoerd. Het is een kwestie van tijd voor onbevoegden hiermee gaan rommelen, zoals een boze medewerker al eens met thuisdialyse-apparaten rommelde omdat deze een ten hemel schreiend domme fout bevatte.

Kwestie van tijd dus voordat we ook misbruik gaan zien van nog gevoeligere zorgapparaten. Om deze reden zou voormalig vicepresident Dick Cheney al die remote access uit zijn pacemaker hebben laten slopen. Misschien dat mensen worden opgenaaid door doemscenario's als in een populaire tv-serie waarin een pacemaker-aanslag op de vicepresident wordt gepleegd, maar dat neemt niet weg dat de netwerkkoppeling van implantaten zónder dat daar goed is over nagedacht een heel, heel slecht idee is.

Op de volgende pagina: waarom je straks zonder werk zit. Het hacken van medische apparaten is vaak niet eens zo moeilijk. Omdat ze niet van de grond af zijn gebouwd met beveiliging en remote access in het achterhoofd, vormen ze een risico als ze aan een netwerkverbinding worden gekoppeld.

4. Baanstelende robots

De werkgelegenheid van mensen is in gevaar. Assisterende robots zijn in toenemende mate in staat om het werk van personeel te verlichten, maar op bepaalde gebieden halen ze ons in en pakken ze de functie die voorheen werd bekleed door een vleeszak. Hoe verder deze ontwikkeling zich doorzet, hoe meer van onze uitvoerwerkzaamheden verdwijnen.

Apothekers in Amerikaanse ziekenhuizen worden wegbezuinigd ten faveure van een automatische pillendealer, werk aan de productielijn en zelfs dienstverlening wordt nog verder gerobotiseerd, bibliothecaressen worden vervangen door uitleen en inname-machines, zelfrijdende bussen zetten de chauffeur af bij de halte voor het arbeidsbureau en journalisten worden vervangen door bloggende bots. Nou ja, misschien is dat laatste niet zo heel erg.

Maar als je je erover wilt beklagen dat je baan is ingepikt door een broodrooster in je favoriete bruincafé: de barman is straks ook vervangen door een alcoholschenkende robot! Dus ga terug naar school en leer een vak wat je helpt bij het onderhouden van de robotsamenleving. Daar is straks alleen nog maar plek voor slaven medewerkers zoals programmeurs en monteurs.

Soms wil je gewoon ergens heen waar iedereen je naam kent. Zoals de kroeg met deze robot.