Nach der Fußball-Weltmeisterschaft 1978 wurde Derwall Nachfolger von Helmut Schön als Chefcoach. Unter Schön hatte er bereits von 1970 bis 1978 als Assistenztrainer der Nationalmannschaft gewirkt. Seine größten Erfolge waren der Gewinn der Europameisterschaft 1980 in Italien und der zweite Platz bei der Weltmeisterschaft 1982 in Spanien.
"Jupp Derwall hatte in den 70- und 80er-Jahren einen wesentlichen Anteil an den großen Erfolgen der deutschen Nationalmannschaft. Mit seiner stets optimistischen und um Ausgleich bemühten Lebensart hat er viele Freunde gewonnen. Seine fachliche Kompetenz war immer unbestritten. Der DFB und der deutsche Fußball verlieren in ihm einen herausragenden Trainer, der in seiner Zeit eine hohe internationale Anerkennung hatte", erklärte
Derwall, der als Aktiver selbst zwei Mal in der Nationalmannschaft spielte, blieb als Bundestrainer in 23 Länderspielen hintereinander ohne Niederlage. In 67 Länderspielen unter Derwalls Verantwortung gab es 45 Siege, elf Unentschieden und elf Niederlagen. Mit dem türkischen Erstligisten Galatasaray Istanbul gewann Derwall die türkischen Meisterschaft. Galatasaray bot ihm einen Vertrag auf Lebenszeit an, doch im Sommer 1989 kehrte er in die Bundesrepublik zurück.