Langkah Jerman terhenti di babak 16 besar setelah menelan kekalahan 0-2 dari Inggris di Wembley, London, Selasa waktu setempat (Rabu WIB).
Laga itu sekaligus jadi laga perpisahan bagi Loew yang setelah 15 tahun akan menyerahkan tongkat estafet kepelatihan Timnas Jerman kepada mantan asistennya, Hansi Flick.
"Setelah 15 tahun menekuni pekerjaan ini, dengan segala tanggung jawab yang menyertainya, mengambil jeda adalah sebuah keharusan," kata Loew selepas laga dikutip dari laman resmi UEFA.
"Akan ada waktunya ketika Anda menemukan energi baru untuk melakukan sesuatu yang berbeda. Saat ini, saya tidak punya rencana konkret," ujar pelatih berusia 61 tahun itu menambahkan.
Baca juga: Joachim Loew yakin skuad Jerman kini akan mencapai puncak di Euro 2024
Baca juga: Toni Kroos akui gol Sterling ubah jalannya laga Inggris vs Jerman
Sebelum menangani Jerman pada 2006 menggantikan Juergen Klinsmann, rekam jejak kepelatihan Loew tidak begitu mentereng kecuali raihannya membawa VfB Stuggart juara DFB Pokal 1997 dan runner-up Piala Winners setahun berselang.
Pada 2002 ia membantu Tirol Innsbruck mempertahankan gelar juara Liga Austria yang membuatnya dipinang Austria Wien.
Sejak mewarisi kursi pelatih Jerman dari Klinsmann, Loew mengantarkan Tim Panzer ke runner-up Euro 2008, peringkat ketiga Piala Dunia 2010 dan jadi juara dunia empat tahun kemudian.
Sayangnya, penampilan mengecewakan di Piala Dunia 2018 yang diikuti berbagai hasil memalukan di berbagai ajang menimbulkan pertanyaan akan masa depan Loew di Jerman.
Pada 9 Maret 2021, DFB mengkonfirmasi Loew bakal meninggalkan posnya di timnas Jerman selepas turnamen Euro 2020 dan akan digantikan oleh Flick yang sempat mendampingi Loew sebagai asisten kala juara Piala Dunia 2014.