De bots waren ontworpen om te leren onderhandelen. Er werden twee bots tegenover elkaar gezet die met elkaar in gesprek moesten gaan. Dit ging in eerste instantie in het Engels, maar de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de bots steeds vaker "nonsens" begonnen uit te kramen, toch leken de bots elkaar perfect te begrijpen.

De Bots communiceerden met elkaar in een taal die voor hun efficiënter was, maar niet begrepen kon worden door mensen.

Beloning

AI-technologieën werken met een "beloningssysteem" dat weer gebruikt wordt om het leerproces te versnellen. De onderzoekers hadden in dit geval echter niet meegenomen dat het communiceren in Engels ook een beloning zou opleveren. In dit geval zorgde dat ervoor dat de bots verkortingen en vormen van snelschrift gebruiken om sneller en efficiënter te kunnen communiceren.

"Agents/Bots zullen afwijken van [voor ons] begrijpelijke taal en codewoorden voor zichzelf bedenken," vertelt Dhruv Batra, onderzoeker, in een interview met Co.Design.

De onderzoekers hebben besloten de bots uit te schakelen omdat het uiteindelijke doel is dat bots moeten kunnen communiceren met mensen.