In de Verenigde Staten is hoog overleg gaande tussen de techbedrijven en de overheid over de wenselijkheid een algoritme te bouwen om terroristische activiteiten zo snel mogelijk te spotten op het internet. Sterker nog, liever zou zo'n algoritme al de eerste tekenen van radicalisering moeten herkennen en de betreffende persoon lange tijd moeten worden gevolgd bij al zijn digitale activiteiten.

Nu zijn die algoritmen al in enige vorm in gebruik. Facebook gebruikt er een om gebruikers te vinden die met zelfmoordneigingen worstelen, de politie gebruikt sleutelwoorden en woordcombinaties om criminele activiteiten als grooming snel te achterhalen. Maar simpel is het niet en de systemen falen in het overgrote deel van de gevallen - met false positives tot gevolg en in de meeste gevallen worden mensen juist niet gevonden.

Politiek kijkt naar Silicon Valley

De hele discussie over de wenselijkheid en (on)mogelijkheid het perfecte algoritme te bouwen wordt mooi uiteengezet in dit artikel bij Fusion.net. Het artikel kijkt terug op de trip die "de politiek" deze week maakte naar Silicon Valley, waar het enige gespreksonderwerp was: anti-terrorisme. Dus encryptie (alweer en nog steeds), maar ook het geautomatiseerd volgen van verdachten op sociale media en andere digitale diensten.

Techbedrijven zouden hun gebruikers en/of klanten moeten 'beplakken' met een score uit een dreigingstabel en zo de progressie van het eventueel radicaliseren moeten kunnen volgen. Niet zozeer dat financiële dienstverleners mensen hun kredietwaardigheid kunnen inschatten aan de hand van hetgeen ze online aan sporen achter laten.

Het controversiële eraan is dat mensen die radicale ideeën of gedachten delen die niet per definitie uitvoeren, dus van criminaliteit (of terrorisme) is dus (nog) geen sprake. In tegendeel: het zijn juist de mensen die tot actie overgaan die daarvoor vrijwel geen radicale uitspraken hebben gedaan, zegt een wetenschapper die zich bezig houdt met radicalisering.

Wie maakt het perfecte algoritme?

Tot nu toe is er nog geen algoritme dat met al die factoren rekening houdt. Tevens moet het sentiment, de emotie en de achtergronden worden meegenomen: bij de discussie op sociale media over de vluchtelingenkwestie worden vaak harde woorden gebruikt, maar blijft daarbij vaak en hebben mensen geen intentie de hooivorken uit de schuur te halen. Maar daarentegen lukt het Facebook maar niet om je ex uit de functie "voorgestelde vrienden" te houden en wist Google's foto-algoritme negroïde mensen te identificeren als gorilla's.

Niettemin gaan de douane-afdelingen van de Europese lidstaten volgende maand aan de slag met het terroristenalgoritme van het bedrijf Brighterion, dat tevens in de transportwereld zal worden gebruikt, meldt Fusion.net. De eigenaar van dat bedrijf vindt dat mensen die zich druk maken over privacy, de risico's van de hedendaagse wereld niet begrijpen.