La orden se origina en 1204, durante la época de Las Cruzadas, en el monte Carmelo, en Israel, un lugar considerado como “el más santo de todos los montes”. Está ubicado en Haifa, Israel. La historia de este sitio consta en el Primer libro de los Reyes, en el capítulo 19.

Inspirados en el profeta Elías, durante el siglo XII, un grupo de hombres (probablemente ermitaños o cruzados) fundó en el monte Carmelo la orden de los Carmelitas. Para 1247, los carmelitas ya se habían esparcido por el Medio Oriente y Europa. La orden carmelita acompañó al resto de la iglesia en los cambios que se sucedían entre fines del período medieval y principios del renacimiento.

Estos llevarían al mundo, en siglos sucesivos, la hoy extendida devoción por la Virgen del Carmelo, también llamada Nuestra Señora del Carmen.