Jean-Marie Rouart est né à Neuilly-sur-Seine, le 8 avril 1943, dans une famille d'artistes peintres. Il est l'arrière-petit-fils des peintres Henri Rouart et Henry Lerolle.
Écrivain et journaliste, il a publié son premier roman La Fuite en Pologne en 1974. Viennent ensuite La Blessure de Georges Aslo en 1975, Les Feux du pouvoir, prix Interallié en 1977. Après Le Mythomane, en 1980, il obtient le prix Renaudot avec son roman Avant-guerre, en 1983. Il publiera ensuite successivement six romans : Le Cavalier blessé en 1987, une fresque historique à l’époque du Premier Empire, La Femme de proie en 1989, Le Voleur de jeunesse en 1990, Le Goût du malheur en 1993, et L’Invention de l’amour en 1997. Il est également l’auteur de plusieurs essais : Ils ont choisi la nuit, prix de l’Essai de l’Académie française en 1985, consacré à des écrivains qui se sont suicidés, Omar, la construction d’un coupable, en 1994, radiographie du système judiciaire qui a abouti à la condamnation d’Omar Raddad. Il est l’auteur d’une biographie consacrée au duc de Morny : Morny, un voluptueux au pouvoir, en 1995, et d’un essai littéraire sur le thème du succès et de l’échec : La Noblesse des vaincus, en 1998. Il a obtenu le prix Prince Pierre de Monaco pour l’ensemble de son œuvre.
Parallèlement à son activité d’écrivain, il a mené une carrière de journaliste d’abord au Magazine littéraire en 1967, puis au Figaro comme journaliste politique, au Quotidien de Paris où il a dirigé les pages littéraires. Après avoir été directeur du Figaro littéraire de 1986 à 2003, il a collaboré à Paris Match.
Il a été élu à l’Académie française, le 18 décembre 1997, au fauteuil de Georges Duby (26e fauteuil), et reçu le 12 novembre 1998 par Hélène Carrère d’Encausse.