Todo empezó con un video difundido por el Daily mail en donde aparecían personas negras en un video de Facebook. El algoritmo, de alguna manera, recomendó a usuarios que vieron el video "seguir viendo usuarios sobre primates".

Dani Lever, una portavoz de Facebook, dijo que, aunque la inteligencia artificial de la red social ha tenido mejoras con los años sigue siendo imperfecta. "Nos disculpamos con cualquiera que pudo haber visto como ofensivas estas recomendaciones", dijo la portavoz.

Esta no es ni de lejos la primera polémica que tiene que ver con algoritmos y su potencial para interpretarse como discriminatorios. Google tuvo su propio episodio cuando su IA etiquetó a personas de piel oscura también como animales y más recientemente el algoritmo de Twitter estuvo en el centro de la discusión cuando se descubrió que privilegiaba la imagen de personas blancas sobre otras.

En ese entonces, la solución de Google fue vetar la palabra "gorila" de las búsquedas en Google Fotos, según encontró Wired más tarde

Como en el pasado Google, Facebook ahora ha reconocido como error la acción del algoritmo, aunque en realidad las tecnológicas se han alejado de tener una discusión seria sobre racismo y algoritmos.