Né à Commentry (Allier), le 2 juin 1862.
Après une scolarité secondaire à Saint-Étienne, Émile Mâle entra à l’École Normale Supérieure et obtint l’agrégation de lettres en 1886. Successivement professeur de rhétorique à Saint-Étienne, à Toulouse, puis à Paris au lycée Louis-le-Grand, il soutint sa thèse en 1889 sur L’Art religieux au XIIe siècle en France. À partir de 1906, il enseigna à la Sorbonne, où lui fut attribuée, en 1912, la chaire d’histoire de l’art.
Spécialisé dans l’art chrétien médiéval, il a laissé une œuvre importante qui compte de nombreuses monographies sur les églises et cathédrales de France (La Cathédrale de Reims, Notre-Dame de Chartres, La Cathédrale d’Albi), dont il était l’un des plus fin connaisseurs.
Nommé après Mgr Duchesne à la tête de l’École française de Rome, il consacra également une partie de ses recherches aux édifices de la Rome chrétienne (Rome et ses vieilles églises).
Il fut élu en 1918 à l’Académie des Inscriptions puis, le 30 juin 1927, à l’Académie française. Après avoir essuyé un échec au fauteuil d’Haussonville en 1925, il remportait le fauteuil de Jean Richepin, par 17 voix contre 5 à Claude Farrère et 6 à Camille Mauclair. Il fut reçu le 28 juin 1928 par Édouard Estaunié.
Mort le 6 octobre 1954.