XVIII wiek
Rok 1795 zapoczątkował powstanie Republiki Batawskiej. Jednym z członków nowego rządu był Isaac Gogel. Zaproponował on utworzenie nowego muzeum narodowego na wzór francuskiego Luwru. W dniu 19 listopada 1798 roku rząd wyraził zgodę na budowę muzeum.
31 maja 1800 roku nastąpiło otwarcie nowego muzeum. Początkowo było ono znane jako Narodowa Galeria Sztuki (hol. Nationale Kunst-Galerij). Posiadało ono około 200 obrazów i innych przedmiotów. Pochodziły one z kolekcji holenderskich stadtholderów.
XIX wiek
W 1806 r. Napoleon Bonaparte ustanowił Królestwo Niderlandów. Zastąpiło ono Republikę Batawską. W 1808 roku na polecenie Ludwika Bonaparte muzeum zostało przeniesione do Amsterdamu. Po przeprowadzce dodano kolejne obrazy. Wśród nich znalazła się Straż nocna autorstwa Rembrandta.
W 1863 r. ogłoszono konkurs na projekt nowego budynku muzeum. Żadna z nadesłanych prac nie została wybrana.
W 1876 roku odbył się nowy konkurs, który tym razem wygrał Pierre Cuypers. Jego projekt był mieszanką gotyku i renesansu. Prace nad nowym budynkiem rozpoczęły się 1 października 1876 roku. Otwarto go 13 lipca 1885 r.[martwy link].
W 1890 roku, w niewielkiej odległości na południowy zachód od Rijksmuseum, dobudowano kolejny budynek. Ten został zbudowany z fragmentów rozebranych budynków. Od tego czasu znany jest jako "budynek fragmentów". Znany jest również jako "skrzydło południowe", a obecnie (w 2013 roku) jako "skrzydło Philipsa".
XX wiek
W 1906 r. przebudowano salę dla Straży Nocnej. Kolejne zmiany przeprowadzono w latach 20. i 50. ubiegłego wieku. W latach 60-tych dobudowano dodatkowe pomieszczenia i piętra. Kolejne zmiany i poprawki przeprowadzono w latach 1984, 1995-1996 i 2000.
Południowe skrzydło muzeum zostało wyremontowane w 1996 roku.
XXI wiek
W grudniu 2003 roku budynek główny został zamknięty na czas remontu. W czasie remontu w skrzydle południowym można było nadal oglądać około 400 eksponatów. Wśród nich była "Straż nocna" Rembrandta i inne XVII-wieczne obrazy.
Remont został zakończony 16 lipca 2012 roku. W dniu 13 kwietnia 2013 r. ponownie otwarto budynek główny.