Istnieje wiele legend i mitów na temat koni arabskich. Jedna z nich głosi, że prorok Mahomet wybrał pięć najlepszych klaczy (samic koni), zwanych Al Khamsa ("pięć"), które stały się podstawą rasy arabskiej. Inna legenda mówi, że królowa Saby podarowała arabską klacz królowi Salomonowi i tak zaczęła się ta rasa. Jeszcze inna historia mówi, że Allah stworzył konia arabskiego z południowego wiatru, mówiąc: "Ja cię stworzyłem, o Arabie... Ja ci daję lot bez skrzydeł".
W prawdziwej historii araby są jedną z najstarszych ras koni na świecie stworzonych przez człowieka. Wizerunki "protoarabskich" koni, które wyglądały bardzo podobnie do współczesnych arabów, namalowano na skałach na Półwyspie Arabskim już 2500 lat p.n.e. Przodkowie Beduinów prawdopodobnie oswoili konie niedługo po tym, jak oswoili wielbłąda. Na półwyspie Synaj odkopano szkielet konia, datowany na 1700 r. p.n.e. i uważany jest za najwcześniejszy dowód istnienia konia w starożytnym Egipcie. Został on prawdopodobnie przywieziony przez najeźdźców Hyksosów. Koń ten miał głowę w kształcie klina, duże oko i mały pysk, podobnie jak dzisiejszy koń arabski.
Na pustyni człowiek był jedynym źródłem pożywienia i wody dla konia arabskiego. Tam, gdzie nie było pastwisk, Beduini karmili swoje konie daktylami, owocami palmy daktylowej, i mlekiem wielbłąda. Konie arabskie musiały żyć na bardzo małej ilości pożywienia i przetrwać w suchym klimacie, w którym w dzień było bardzo gorąco, a w nocy bardzo zimno. Słabe konie nie przeżywały, a konie, które przetrwały pustynię, musiały również przetrwać jazdę konną na wojnie. Dlatego koń arabski stał się bardzo wytrzymały i zdolny do życia w surowym świecie.
