Jürgen Klopps trænerkarriere begyndte i ydmyge rammer hos FSV Mainz 05, som han førte op i Bundesligaen for første gang i 41 år. I 2008 skiftede han til Borussia Dortmund, hvor han vandt mesterskabet og kom i Champions League-finalen. Han forlod Tyskland
