De 'geavanceerde afbeeldingsherkenningstechnologie' plaatst automagisch labels bij foto's die worden ingediend door Flickr-gebruikers. Een zwart-wit-afbeelding krijgt bijvoorbeeld meteen dat etiket mee, maar het algoritme kijkt ook naar de inhoud. En daar moet nog het een en ander in getweakt worden, aangezien het algoritme foto's van een concentratiekamp labelde met 'speeltuin' en 'sport'.

Er ontstond ophef omdat Flickr aan zwarte mensen het etiket 'aap' meegaf, hoewel The Guardian meldt dat het algoritme waarschijnlijk geen racist is, aangezien hij hetzelfde deed bij een blanke vrouw. Maar het algoritme zit er wel vaak naast.

Het systeem is twee weken geleden geïntroduceerd en nu al telt een forum 2500 klachten van boze gebruikers. Die zijn boos, omdat het algoritme nog lang niet geperfectioneerd is en zonder opt-in (of nu opt-out) wordt ingezet. Vorig jaar was al duidelijk dat er wat problemen waren met de herkenning.

Leren door verwijderen

Flickr meldt dat gebruikers het algoritme verder kunnen helpen door tags te verwijderen. Daardoor leert het systeem dat het toekennen van 'aap' bij de foto van een mens een verkeerde keuze is geweest. Verder verwijdert de fotodienst de beledigende tags bij foto's waarbij het ongepast is.