Historia miasta sięga czasów Imperium Rzymskiego. Rzymianie założyli obóz wojskowy o nazwie Vindobona. Obóz ten znajdował się w dzisiejszej pierwszej dzielnicy nad rzeką Dunaj. Nazwa pochodziła od Celtów, więc prawdopodobnie istniała celtycka osada przed rzymską inwazją. Rzymianie przebywali tu do V wieku. W czasach średniowiecza osada była nadal użytkowana. Obecna nazwa została wymieniona w 881 roku w Salzburger Annalen, gdzie wspomniana jest bitwa ad weniam.
W 976 r. władzę nad tym obszarem objął ród Babenbergów. W 1155 r. Wiedeń stał się ich stolicą. Wiedeń był już wtedy ważnym miastem. W 1156 r. Austria stała się księstwem, a w Wiedniu mieszkał książę, który rządził księstwem. W 1221 roku Wiedeń otrzymał prawa miejskie. Jest to drugie najstarsze miasto w Austrii (najstarsze jest Enns w Górnej Austrii).
W 1278 r. księstwo przeszło w ręce Habsburgów. Rudolf IV założył w 1365 r. uniwersytet, a w czasie, gdy był księciem, wybudowano nawę gotyckiej katedry św. Kłótnie w rodzinie Habsburgów spowodowały upadek gospodarczy Wiednia. W 1438 r. Wiedeń stał się rezydencją cesarza Świętego Cesarstwa Rzymskiego.
W czasach reformacji Wiedeń był miastem protestanckim, ale w czasach kontrreformacji Austria i Wiedeń były w większości rzymskokatolickie.
W 1529 r. Wiedeń został po raz pierwszy oblężony przez wojska Imperium Osmańskiego, którego granica przebiegała zaledwie 150 km na wschód od Wiednia. Zaszkodziło to ekonomicznie Wiedniowi, ale doprowadziło do ufortyfikowania miasta (uczynienia go silniejszym). Po drugim oblężeniu Imperium Osmańskiemu nie udało się zdobyć Wiednia, a miasto zaczęło się rozrastać.
W okresie baroku Wiedeń został przebudowany. Powstało wiele rezydencji dla szlachty. Ważnym architektem Wiednia był Johann Bernhard Fischer von Erlach.
Pod koniec XVIII i na początku XIX wieku Wiedeń był ojczyzną ważnych kompozytorów, takich jak Haydn, Mozart, Beethoven, Schubert.
Po rewolucji w 1848 r. Franciszek Józef I. został cesarzem Cesarstwa Austriackiego, które powstało w 1806 r. po likwidacji Świętego Cesarstwa Rzymskiego. Rządził do 1916 roku. Wiedeń stał się centrum sztuki, kultury i architektury. Miasto rozrastało się, ponieważ przedmieścia stały się częścią miasta. Po 1858 roku mury miasta zostały zniszczone, a na ich miejscu powstała Ringstrasse. Wzdłuż tej ulicy wybudowano domy bogatych obywateli, a także budynki użyteczności publicznej, takie jak ratusz i teatr Burg. Industrializacja rozpoczęła się na początku wieku i sprawiła, że mieszkało tu coraz więcej ludzi. W 1870 r. Wiedeń liczył milion mieszkańców, a w 1910 r. dwa miliony. Wraz z powstaniem dużej klasy robotniczej i ubóstwem w Wiedniu umocniła się Partia Pracy (Sozialdemokratische Arbeiterpartei).
Karl Lueger był najważniejszym burmistrzem w czasach cesarza Franciszka Józefa. Za jego czasów zrealizowano ważne plany społeczne, dzięki którym Wiedeń stał się nowoczesnym miastem. Lueger był jednak radykalnym antysemitą. Podziwiał go młody Adolf Hitler, który spędził w Wiedniu kilka lat przed I wojną światową. W tym czasie Wiedeń był ważnym miejscem dla sztuki. Kompozytorzy tacy jak Arnold Schönberg, Anton Webern, Alban Berg i Ernst Krenek byli ważni dla rozwoju muzyki nowoczesnej. Również psychoanaliza została założona w Wiedniu przez Sigmunda Freuda. Również tak zwany Jugendstil w sztuce był częścią wiedeńskiej sceny sztuki nowoczesnej. W tym czasie w Wiedniu żyli i pracowali również ojcowie założyciele nowoczesnej architektury (Otto Wagner, Adolf Loos).
Po zakończeniu Iwojnyświatowej Austro-Węgry zostały rozwiązane, a Wiedeń stał się stolicą Republiki Austrii. W 1938 roku Austria została zajęta przez Niemcy. W Wiedniu rozpoczęły się cierpienia żydowskich mieszkańców. Wiele z ich majątków zostało przekazanych Austriakom (Arisierung).
Po II wojnie światowej, która zniszczyła 20% wiedeńskich budynków, Wiedeń został podzielony na cztery części. Miasto było kontrolowane przez aliantów, podobnie jak inne części Austrii. W 1955 roku w wiedeńskim Belwederze podpisano traktat państwowy między aliantami a Austrią. Po tym wydarzeniu Wiedeń stał się ważnym miastem dla organizacji międzynarodowych. Pierwszą z nich była w 1957 r. Międzynarodowa Organizacja Energii Atomowej (IAEO), a w 1965 r. OPEC. W 1980 roku otwarto Wiedeńskie Centrum Międzynarodowe i Wiedeń jest obecnie trzecim miastem ONZ, obok Nowego Jorku i Genewy.
· 
Pozostałości systemu grzewczego w rzymskim domu w Wiedniu
· .JPG)
· 
· 
Ringstraße i parlament ok. 1900 r.
· 
Karl-Marx-Hof jest jednym z najbardziej znanych wiedeńskich Gemeindebauten (zespołów kamienic miejskich).