Szczegóły odkrycia wyspy Gough są niejasne, ale najbardziej prawdopodobną okazją jest lipiec 1505 r. portugalskiego odkrywcy Gonçalo Álvares. Mapy przez następne trzy wieki nazywały wyspę jego imieniem. Na niektórych późniejszych mapach błędnie podano go jako Diego Alvarez.
Według niektórych historyków, brytyjski kupiec Anthony de la Roché jako pierwszy wylądował na wyspie jesienią 1675 roku w australijskim regionie.
Charles Gough ponownie odkrył wyspę 3 marca 1732 roku. Myślał, że to nowe znalezisko. Od 1505 roku nosiła nazwę Gonçalo Álvares, od nazwiska kapitana flagowego statku Vasco da Gamy w jego epickiej podróży na wschód. To właśnie pod tą nazwą został oznaczony z rozsądną dokładnością na mapach południowego Atlantyku przez około 230 kolejnych lat.
Następnie, w 1732 roku, kapitan Gough z brytyjskiego statku Richmond doniósł o odkryciu nowej wyspy. Umieścił ją 400 mil na wschód od Gonçalo Álvares. Pięćdziesiąt lat później kartografowie zorientowali się, że te dwie wyspy są takie same. Pomimo pierwszeństwa portugalskiego odkrycia i większej dokładności podanej przez nich pozycji, przyjęto nazwę "Gough's Island".
Na początku XIX wieku na wyspie krótko mieszkali fokerzy. Najstarszym znanym przykładem jest gang fokerski z amerykańskiego statku Rambler (kapitan Joseph Bowditch), który pozostał na wyspie w sezonie 1804-1805. Epoka fokowania trwała od 1804 do 1910 roku, podczas której znane są 34 statki foksujące, z których jeden zaginął na morzu.
Szkocka Narodowa Ekspedycja Antarktyczna na terenie Szkocji odbyła pierwszą wizytę na wyspie przez stronę naukową 21 kwietnia 1904 r., kiedy to William Speirs Bruce i inni zebrali okazy. The Shackleton-Rowett Ekspedycja także zatrzymywać przy the wyspa w 1922.
Wyspa Gough została oficjalnie zgłoszona Wielkiej Brytanii w 1938 r. podczas wizyty HMS Milford z Królewskiej Marynarki Wojennej. W 1995 roku wyspa została wpisana na listę światowego dziedzictwa UNESCO. W 2004 roku obszar ten został rozszerzony o Inaccessible Island i przemianowany na Gough i Inaccessible Islands.
Wyspa Gough to jedyne miejsce poza Ameryką Południową, z którego widoczne będzie zaćmienie słońca 12 września 2034 roku; środek ścieżki całości przecina się przez wyspę.