Durante um estudo realizado em meados de 2019, uma equipe de funcionários do Facebook descobriu que as regras propostas para o sistema de remoção automática de contas do Instagram marcaram e proibiram de forma desproporcional usuários negros. Eles alegam terem sido ignorados.
Ao longo dos últimos anos, a ideia de que pode existir um viés de algoritmos tem circulado entre muitos setores. Agora, pesquisadores e jornalistas estão legalmente autorizados a investigar esses problemas.