Synowie rosyjskich imigrantów żydowskich, Robert i Richard Shermanowie, zaczęli pisać razem piosenki w 1951 roku na prośbę swojego ojca, autora piosenek z Tin Pan Alley, Ala Shermana. Przez resztę dekady bracia pisali piosenki razem i z różnymi partnerami.
W 1958 roku Robert założył firmę Music World Corporation, zajmującą się wydawaniem muzyki. Później nawiązała ona współpracę z wydawnictwem Disney'a, Wonderland Music Company, stowarzyszonym z BMI. W tym samym roku bracia Sherman mieli swój pierwszy przebój z "Tall Paul", śpiewany przez Mouseketeer Judy Harriet w wytwórni Surf Records. Zaśpiewała ją również Mouseketeer Annette Funicello. Sukces tej piosenki zwrócił uwagę Walta Disneya. Następnie zatrudnił on braci Sherman jako Staff Songwriters dla Walt Disney Studios. Pierwszą piosenką, którą napisali na osobiste zlecenie Walta Disneya była "Strummin' Song" z 1961 roku. Została ona użyta w filmie Annette Funicello made-for-television zatytułowanym The Horsemasters.
Podczas pracy w wytwórni Disneya, bracia Sherman napisali więcej muzyki do filmów niż inni autorzy piosenek w historii kina. Napisali również prawdopodobnie najbardziej znaną piosenkę "It's a small world (after all)" na nowojorskie targi światowe w 1964 roku. Od tego czasu niektórzy twierdzą, że stała się ona najczęściej tłumaczoną i wykonywaną piosenką na Ziemi, choć w dużej mierze wynika to z faktu, że jest ona grana w parku rozrywki Disneya "it's a small world" - atrakcji o tej samej nazwie.
W 1965 roku bracia Sherman zdobyli dwa Oscary za piosenkę "Mary Poppins", która zawiera utwory "Feed The Birds", "Supercalifragilisticexpialidocious" oraz nagrodzony Oscarem "Chim Chim Cher-ee". Od czasu pierwszego pokazu Mary Poppins, Shermans zdobyli dziewięć nominacji do Oscara, dwie nagrody Grammy, cztery nominacje do Grammy Award oraz 23 złote i platynowe certyfikowane albumy.
Robert i Richard Sherman pracowali bezpośrednio dla Walta Disneya, komponując muzykę do filmów muzycznych The Happiest Millionaire i The One and Only, Genuine, Original Family Band, aż do śmierci Disneya w 1966 roku. Od czasu opuszczenia firmy bracia pracowali jako niezależni autorzy piosenek do filmów, programów telewizyjnych, wystaw w parkach tematycznych i musicali scenicznych.
Ich pierwsze nie-disneyowskie zlecenie powstało w 1968 roku przy produkcji filmu Alberta R. Broccoli Chitty Chitty Bang Bang dla United Artists. Przyniosła ona braciom trzecią nominację do Oscara w kategorii Najlepsza Piosenka Oryginalna za szczególnie zapadającą w pamięć piosenkę tytułową.
W 1970 roku Shermanowie powrócili na krótko do Disneya, gdzie dokończyli prace nad filmami Arystokraci oraz Bedknobs and Broomsticks. Za ten ostatni film bracia otrzymali czwartą i piątą nominację do Oscara. W 1972 roku ukazał się film Snoopy Come Home, za który bracia otrzymali nominację do nagrody Grammy.
W 1973 roku bracia Sherman zapisali się na kartach historii, stając się jedynymi Amerykanami, którzy zdobyli pierwszą nagrodę na Festiwalu Filmowym w Moskwie za film Tom Sawyer, do którego napisali również scenariusz.
W 1976 roku "Pantofelek i róża" został wybrany jako Królewski Spektakl Roku. W przedstawieniu wzięła udział Królowa Elżbieta, Królowa Matka. Współczesna musicalowa wersja klasycznej opowieści o Kopciuszku, "Pantofelek", również zawierała piosenki, muzykę i scenariusz autorstwa braci Sherman. Za ten film bracia otrzymali dwie kolejne nominacje do Oscara. W tym samym roku bracia Sherman otrzymali swoją gwiazdę na hollywoodzkiej "Alei Sław", naprzeciwko Grauman's Chinese Theater.
Bracia Sherman mają w swoim dorobku wiele innych filmów Disneya i nie tylko, takich jak: Księga dżungli (1967), Arystokraci (1970), Pułapka na rodziców (1961), Pułapka na rodziców (1998), SiećCharlotty (1973), Huckleberry Finn (1974), Przygody Kubusia Puchatka (1977), Snoopy, wracaj do domu (1972), Bedknobs and Broomsticks (1971), Mały Nemo: Adventures in Slumberland (1989).
Poza filmami kinowymi, ich nominowany do nagrody Tony hit Over Here! (1974) był najlepiej zarabiającym oryginalnym musicalem na Broadwayu w tamtym roku. Bracia Sherman są również autorami wielu najlepiej sprzedających się piosenek, w tym "You're Sixteen", która dwukrotnie znalazła się w pierwszej dziesiątce Billboard Hot 100: po raz pierwszy z Johnnym Burnettem w 1960 roku, a następnie na pierwszym miejscu z Ringo Starrem ponad trzynaście lat później. Inne hity z pierwszej dziesiątki to "Pineapple Princess", "Let's Get Together" i wiele innych.
W 2000 roku bracia Sherman napisali muzykę do filmu Disneya The Tigger Movie. Był to pierwszy film braci dla wytwórni Disneya od ponad 28 lat.
W 2003 roku cztery musicale braci Sherman znalazły się w pierwszej dziesiątce ulubionych filmów dla dzieci wszech czasów w brytyjskim ogólnokrajowym sondażu przeprowadzonym przez BBC. Najważniejszym z nich jest Chitty Chitty Bang Bang z 1968 roku, który znalazł się na pierwszym miejscu listy.
W późniejszych latach, po przeprowadzce Roberta do Londynu, bracia napisali wiele nowych piosenek do scenicznych prezentacji musicali Chitty Chitty Bang Bang i Mary Poppins, wyprodukowanych przez Disneya i Camerona Mackintosha.
Za swój wkład w przemysł filmowy bracia Sherman mają gwiazdę na Hollywood Walk of Fame przy 6918 Hollywood Blvd. Zostali przyjęci do Songwriters Hall of Fame 9 czerwca 2005 roku. 16 listopada 2006 roku Mary Poppins miała swoją premierę w New Amsterdam Theatre na Broadwayu.
17 listopada 2008 roku bracia Sherman otrzymali National Medal of Arts, który jest najwyższym odznaczeniem przyznawanym artystom przez rząd Stanów Zjednoczonych. Odznaczenie zostało wręczone przez prezydenta Stanów Zjednoczonych George'a W. Busha podczas ceremonii w Białym Domu w East Room.
22 maja 2009 roku na ekrany kin wszedł film The Boys: the Sherman Brothers' Story, opowiadający o tej parze. Film został wyreżyserowany i wyprodukowany przez ich synów, Gregory'ego V. Shermana i Jeffa Shermana. Film został wydany przez Walt Disney Pictures.
W październiku 2009 roku Disney wydał dwupłytowe kompendium 59 utworów z ich czterdziestu dwóch lat pracy dla studia. Płyta nosi tytuł "The Sherman Brothers Songbook".
11 marca 2010 roku bracia Sherman otrzymali Okno na Mainstreet Disneyland w Anaheim w Kalifornii, w uznaniu ich zasług dla parków rozrywki Disneya. 17 maja 2010 roku bracia Sherman otrzymali nagrodę za osiągnięcia w karierze podczas gali The Theatre Museum's 2010 Awards Gala w Nowym Jorku.