Towarzystwo Przyjaciół rozpoczęło swoją działalność w 1650 roku w Anglii. Człowiek o imieniu George Fox spędził kilka lat, zmagając się z problemem, jak być dobrym chrześcijaninem. W końcu usłyszał głos Boga, który powiedział mu, że Chrystus wyjaśni mu, co powinien robić. Fox chodził i głosił ludziom kazania. Mówił im, że sami mogą rozmawiać z Bogiem - że nie potrzebują księdza czy pastora, który zrobi to za nich. Mówił im, że jeżeli wsłuchają się w siebie, to usłyszą Chrystusa, który powie im, co mają robić. Fox znalazł innych ludzi, którzy mieli podobne doświadczenia. Razem założyli oni ruch religijny, który później stał się Religijnym Towarzystwem Przyjaciół.
Rządowi angielskiemu nie podobała się ta nowa grupa; w tamtym czasie przynależność do Kościoła Anglii była wbrew prawu. Wielu z nich zostało uwięzionych lub zmuszonych do zapłacenia kary pieniężnej. Na początku słowo "kwakier" było nazwą używaną do naśmiewania się z przyjaciół, ale po pewnym czasie ludzie polubili je i zaczęli używać dla siebie.
Szukając wolności religijnej, niektórzy kwakrzy wyjechali do takich miejsc jak Ameryka. Młody kwakier William Penn założył tam nową kolonię. Dostał ziemię, ponieważ król Anglii Karol II był winien jego ojcu dużo pieniędzy. Ta nowa kolonia nazywała się Pensylwania i było to miejsce, gdzie ludzie mogli wyznawać dowolną religię. Penn chciał, aby ludzie byli wobec siebie sprawiedliwi, dlatego największe miasto w swojej nowej kolonii nazwał Filadelfia, co oznacza "Miasto Braterskiej Miłości". Wkrótce w Ameryce pojawiło się wielu kwakrów.
Kwakrzy byli bardzo aktywni w Ameryce w dziewiętnastym wieku (1800). Wielu z liderów ruchu abolicyjnego i ruchu na rzecz praw kobiet, takich jak Elizabeth Cady Stanton i Lucretia Mott, było kwakrami.
Obecnie na świecie żyje około 375 000 kwakrów. Liczba ta jest bardzo mała w porównaniu z innymi grupami religijnymi. Mimo to, wielu ludzi słyszało o kwakrach, ponieważ ciężko pracowali, aby uczynić nasz świat bardziej sprawiedliwym i uczciwym.