El incidente más controvertido del brillante pero tumultuoso tiempo de Terry en el Chelsea finalmente pondría fin a su carrera internacional. Tras el derbi del oeste de Londres contra el Queens Park Rangers en octubre de 2011, circuló un video en las redes sociales que mostraba al capitán de los Blues llamando a Anton Ferdinand, hermano del compañero de equipo de Terry en Inglaterra, Rio, "puto negro de mierda", con un miembro del público denunciándolo a la policía.
Terry insistió en que estaba respondiendo a una alegación en el campo de Ferdinand de que había usado lenguaje racista. Sin embargo, se lanzó una investigación policial, junto con una investigación de la FA, y finalmente Terry fue acusado de usar lenguaje racista en diciembre. Fue despojado de la capitanía de Inglaterra por segunda vez como resultado, aunque fue absuelto en un juicio penal en el verano de 2012.
Posteriormente, el jugador fue acusado por la FA de usar palabras y comportamientos abusivos que "incluyeron una referencia al origen étnico y/o color y/o raza de Ferdinand". Terry negó la acusación, y en vísperas de la audiencia de la FA anunció su retiro internacional, diciendo que su posición se había vuelto "insostenible".
Terry fue encontrado culpable en septiembre de 2012, resultando en una suspensión de cuatro meses y una multa de £220,000, además de ser disciplinado internamente por el Chelsea. No apeló el veredicto y emitió una disculpa el mes siguiente, diciendo: "Aunque estoy decepcionado con el juicio de la FA, acepto que el lenguaje que usé, independientemente del contexto, no es aceptable en el campo de fútbol ni en ninguna faceta de la vida. Con el beneficio de la retrospectiva, mi lenguaje claramente no fue una reacción apropiada a la situación para alguien en mi posición."