O incidente mais controverso do tempo brilhante, mas tumultuado, de Terry no Chelsea acabaria por trazer um fim à sua carreira na seleção. Após o derby do oeste de Londres contra o Queens Park Rangers em outubro de 2011, um vídeo circulou nas redes sociais que parecia mostrar o capitão dos Blues chamando Anton Ferdinand - irmão de Rio Ferdinand, colega de equipe de Terry na Inglaterra -, de "preto babaca do caralh*", com um membro do público reportando o incidente à polícia.
Terry insistiu que apenas reagia a uma acusação feita em campo por Ferdinand, de que teria usado linguagem racista. No entanto, uma investigação policial foi aberta, paralelamente a um inquérito da associação de futebol inglesa, e Terry foi acusado de uso de linguagem racista em dezembro. Como consequência, perdeu a braçadeira da seleção inglesa pela segunda vez, embora tenha sido absolvido no julgamento criminal no verão de 2012.
Posteriormente, o jogador foi acusado pela associação de usar palavras e comportamento abusivos que "incluíam uma referência à origem étnica e/ou cor e/ou raça de Ferdinand". Terry negou a acusação, e na véspera de sua audiência ele anunciou sua aposentadoria na seleção, dizendo que sua posição havia se tornado "insustentável".
Terry foi considerado culpado em setembro de 2012, resultando em uma suspensão de quatro meses e uma multa de £ 220,000, além de ser disciplinado internamente pelo Chelsea. Ele não recorreu do veredicto e emitiu um pedido de desculpas no mês seguinte, dizendo: "Embora esteja desapontado com o julgamento, aceito que a linguagem que usei, independentemente do contexto, não é aceitável no campo de futebol nem em qualquer esfera da vida. Com o benefício da retrospectiva, minha linguagem claramente não foi uma reação apropriada à situação para alguém na minha posição."