FW de Klerk urodził się w Johannesburgu w 1936 roku. Jest synem Johannesa de Klerka (1903-1979) i Hendriny Cornelii de Klerk (1904-2001), która zmarła zaledwie cztery miesiące przed śmiercią jego byłej córki Marike Willemse i brata Wimpie de Klerka (1928-2009). Jego rodzina, której nazwa pochodzi od francuskiego nazwiska "Le Clerc", "Le Clercq" lub "de Clercq" jest pochodzenia hugenockiego. Osiedlił się w kraju w 1686 roku, kilka miesięcy po odwołaniu edyktu z Nantes, i uczestniczył w różnych wydarzeniach w historii Afrikaner. Ich przodkowie uczestniczyli w Grand Trek w pociągu prowadzonym przez Pieta Retiefa, aby pozbyć się brytyjskiego panowania. W 1838 roku trzech członków rodziny Klerk zostało również zabitych wraz z Retiefem w King Kraal of Zulu, Dingane. Później, podczas II wojny burskiej (1899-1902), dziadek FW Klerk został dwukrotnie schwytany przez Brytyjczyków, zanim stał się członkiem-założycielem Partii Narodowej w 1914 roku, obok Jamesa Barry'ego Hertzoga. Według genealoga Keitha Meintjiesa i potwierdzone przez FW przez Klerka, to ostatnie jest również zgodne z Krotoa (Eva), kobietą Khoi, która służyła jako tłumacz dla holenderskich kolonistów podczas zakładania Kolonii Głowy.
Członek Holenderskiego Kościoła Reformowanego, FW by Klerk, jest najmłodszym synem Jana Klerka, dyrektora szkoły i ministra z różnymi teczkami (1954-1969) i przewodniczącego Senatu (1969-1976), siostrzeńcem JG Strijdoma, szefa rządu RPA 1954 do 1958. Jego starszy brat Wimpie de Klerk jest analitykiem politycznym i współzałożycielem Partii Demokratycznej w 1989 roku.
High School w Krugersdorp, na przedmieściach Johannesburga, FW przez Klerk ma dyplom z wyróżnieniem na Uniwersytecie w Potchefstroom w 1958 roku. W 1959 roku poślubił Marike Willemse (1937-2001), z którą wychowa trójkę dzieci adoptowanych ). Para, F. W. i Marike de Klerk, rozwiodła się w 1998 roku.
W czasie studiów wstąpił do Partii Narodowej i został członkiem Broderbond.
Prawnik w Vereeniging, na południu Transwalu, odmówił w 1972 r. publicznej siedziby prawniczej na Uniwersytecie w Potchefstroom, aby wystartować w wyborach powszechnych.