Insiden paling kontroversial dalam masa gemilang namun penuh gejolak Terry di Chelsea akhirnya mengakhiri karier internasionalnya. Setelah derbi London barat melawan Queens Park Rangers pada Oktober 2011, sebuah video beredar di media sosial yang tampaknya menunjukkan kapten The Blues menyebut Anton Ferdinand - saudara dari rekan setim Terry di timnas Inggris, Rio - sebagai "bajingan hitam sialan", dan seorang warga melaporkannya ke polisi.
Terry bersikeras bahwa ia menanggapi tuduhan di lapangan dari Ferdinand bahwa ia telah menggunakan bahasa rasis. Namun, penyelidikan polisi kemudian berjalan, bersamaan dengan penyelidikan FA, dan Terry akhirnya didakwa menggunakan bahasa rasis pada bulan Desember. Akibatnya, ia dicopot dari jabatan kapten timnas Inggris untuk kedua kalinya, meskipun ia dibebaskan dalam persidangan pidana pada musim panas 2012.
Pemain tersebut kemudian dikenai dakwaan FA karena menggunakan kata-kata dan perilaku kasar yang "termasuk referensi terhadap asal etnis dan/atau warna kulit dan/atau ras Ferdinand". Terry membantah dakwaan tersebut, dan menjelang sidang FA-nya, ia mengumumkan pengunduran dirinya dari timnas, dengan mengatakan posisinya telah menjadi "tidak dapat dipertahankan".
Terry dinyatakan bersalah pada September 2012, yang mengakibatkan larangan bermain selama empat bulan dan denda sebesar £220 ribu, serta dikenai sanksi internal oleh Chelsea. Ia tidak mengajukan banding atas putusan tersebut dan mengeluarkan permintaan maaf pada bulan berikutnya, dengan mengatakan: "Meskipun saya kecewa dengan putusan FA, saya menerima bahwa bahasa yang saya gunakan, terlepas dari konteksnya, tidak dapat diterima di lapangan sepakbola atau bahkan dalam kehidupan apa pun. Dengan mempertimbangkan kejadian di masa lalu, bahasa saya jelas bukan reaksi yang tepat terhadap situasi tersebut bagi seseorang dalam posisi saya."