W 1947 roku powrócił do Niemiec, gdzie rozpoczął karierę zawodową, śpiewając bez próby solo barytonowe w Requiem Ein Deutsches Brahmsa. (Był w ostatniej chwili zastępcą chorego śpiewaka.) Pierwszy recital pieśniarski dał w Lipsku jeszcze w tym samym roku.
Od początku swojej kariery współpracował ze słynnymi sopranami lirycznymi Elisabeth Schwarzkopf i Irmgard Seefried oraz producentem nagrań Waltera Legge'a, produkując bardzo popularne albumy z liederami Franza Schuberta i Hugo Wolfa.
Jesienią 1948 roku Fischer-Dieskau został głównym barytonem lirycznym w Städtische Oper Berlin (Opera Miejska, Berlin Zachodni), gdzie po raz pierwszy wystąpił w roli Posy w Don Carlosie Verdiego pod dyrekcją Ferenca Fricsaya. Zespół ten, znany po 1961 roku jako Deutsche Oper, miał być jego artystycznym domem aż do przejścia na scenę operową, w 1978 roku.
Fischer-Dieskau występował gościnnie w operach w Wiedniu i Monachium. Po 1949 roku odbył podróże koncertowe po Holandii, Szwajcarii, Francji i Włoszech. W 1951 r. po raz pierwszy wystąpił na koncercie na festiwalu w Salzburgu z Lieder eines fahrenden Gesellen Mahlera (Pieśni o podróżniku) pod dyrekcją Wilhelma Furtwänglera. Zaczynał pojawiać się na całym świecie: w Royal Albert Hall, Londynie, Bostonie, Massachusetts i na festiwalu w Bayreuth.
Jako śpiewaczka operowa Fischer-Dieskau występował głównie w Berlinie oraz w Bawarskiej Operze Narodowej w Monachium. Występował również gościnnie w Wiedeńskiej Operze Narodowej, w Royal Opera House, Covent Garden w Londynie, w Hamburskiej Operze Narodowej w Japonii oraz w King's Theatre w Edynburgu, podczas Edynburskiego Festiwalu. Jego pierwsze tournee po Stanach Zjednoczonych odbyło się w 1955 roku, gdy miał 29 lat. Na jego recitalach towarzyszył mu Gerald Moore. Nagrał wiele Lieder z Geraldem Moore'em i dał z nim wiele recitali, aż do przejścia na emeryturę w 1967 roku. Jednak po tym czasie nadal nagrywał. Ich nagrania cykli pieśni Schuberta Die schöne Müllerin i Die Winterreise były bardzo wysoko oceniane.
Fischer-Dieskau wykonał również wiele utworów kompozytorów żyjących, m.in. Benjamina Brittena, Samuela Cyrulika, Hansa Wernera Henze'a, Karla Amadeusa Hartmanna, Ernsta Krenka i Witolda Lutosławskiego.
Fischer-Dieskau nagrał także wiele znanych ról w operach włoskich, m.in. Rigoletto Verdiego i Rodrigo w Don Carlosie Verdiego, Scarpię w Tosce Giacomo Pucciniego. W 1978 roku przeszedł na emeryturę w operze.
Muzykalność i technika Fischera-Dieskau'a zawsze były doskonałe. Z sali koncertowej odszedł na emeryturę w Nowy Rok, 1993, w wieku 67 lat. Spędzał czas na dyrygenturze, nauczaniu (zwłaszcza interpretacji Lieder), malowaniu i pisaniu książek.
