Makers van Kunstmatige Intelligentie schrikken soms van de reacties van hun eigen creaties. Meer dan eens levert dat een "Mijn God, we hebben de overkant bereikt" op van deze ontwikkelaars, verhaalt MIT's Technology Review. Apple's Siri heeft allemaal voorgeprogrammeerde reacties, maar de menselijk ogende reacties waar de technologie zelf mee op de proppen komt, deed Siri-maker Adam Cheyer achter de oren krabben.

Rob Chambers, manager van rivaliserende AI Cortana, meldt hetzelfde, toen de technologie uit zichzelf opeens aankwam met een onderwerp dat hij interessant vond op een moment dat hij niet eens met de smartphone bezig was. Maar dat zijn logische gedragingen, gezien de geprogrammeerde intenties van de technologie. Pas als de computer straks uit zichzelf gaat vragen of " deze eenheden een ziel bezitten", mogen we ons druk gaan maken.