Als je op LinkedIn zoekt naar een vrouwelijke naam, is de kans groot dat LinkedIn een profiel aandraagt met dezelfde achternaam en een mannelijke voornaam, zo merkt de Seattle Times op. 'Stehpanie Williams' levert een suggestie voor 'Stephen Williams' op, 'Andrea' een 'Andrew', enzovoorts.

Machine pikt menselijk gedrag op

Dit verschijnsel komt voort uit hetzelfde issue dat je ziet bij 'racistische' auto-aanvullen van zoekopdrachten: de engine leert van menselijk gedrag en merkt dat LinkedIn-zoekers blijkbaar vaak (bewust dan wel onbewust) naar een mannelijke kandidaat zoeken, zo zegt LinkedIn. Dat terwijl er weinig verschil is in gebruikers: ongeveer evenveel mannen als vrouwen gebruiken het zakelijke sociale netwerk.

Door het zoekgedrag van mensen te incorporeren, wordt het algoritme verfijnder. Maar daardoor gaat het algoritme meer lijken op, wel, het zoekgedrag van mensen. Daarmee worden dus ook vooroordelen over geslacht, ras, geaardheid, geloof en wat dies meer zij opgepikt en weer teruggekaatst door machines.