Né à Paris, le 20 novembre 1739.
Il obtint de brillants succès scolaires ; dans sa jeunesse, il fut emprisonné pendant plusieurs mois pour des satires, à Bicêtre, et Fort-l'Evêque ; disciple, imitateur et ami de Voltaire, il fut huit fois lauréat de l'Académie ; il fut aussi l'ami de Marmontel, de d'Alembert, de Mlle de Lespinasse. Voltaire soutint ardemment sa candidature à l'Académie ; elle fut combattue par le maréchal de Richelieu et l'avocat général Séguier, qui menacèrent même de démissionner s'il était élu ; les amis de La Harpe craignaient qu'on ne lui opposât le veto royal, mais Malesherbes eut facilement raison de la faible résistance de la cour, alors La Harpe, qui avait subi plusieurs échecs antérieurs, fut élu le 13 mai 1776 en remplacement de Charles-Pierre Colardeau, contre Chabanon, l'abbé Millot, Sedaine et Laujon et fut reçu par Jean-François Marmontel le 20 juin 1776. Il abandonna d'Alembert qui avait tant fait pour son élection, et se rallia au parti de Buffon, votant pour Bailly contre Condorcet qui fut élu ; il fut du parti des piccinistes. Le tsar Paul Ier, voyageant en France, invita plusieurs fois La Harpe à sa table.
En 1771, l’Éloge de Fénelon par La Harpe, couronné par l'Académie, donna lieu à l'intervention de l'archevêque de Paris et du Roi et au rétablissement du visa des docteurs en théologie ; l'Académie en fut très humiliée. En 1779, La Harpe étant académicien, remporta, sous le voile de l'anonymat, le prix d'éloquence pour son Éloge de Voltaire ; il abandonna le prix qui fut donné à l'un de ses concurrents. Il avait été aussi lauréat de l'Académie de Marseille dans sa jeunesse.
La Harpe fut passionnément révolutionnaire au début de la Révolution ; mais il fut emprisonné pendant quatre mois au Luxembourg en 1794 ; il se convertit et abjura les idées des philosophes qu'il avait partagées auparavant. Pensionné par la Convention en 1794, il ne fit pas partie de l'Institut ; il fut exilé deux fois sous le Directoire et sous le Consulat ; à l'organisation de 1803, il reprit son fauteuil dans la deuxième classe de l'Institut, et mourut quelques jours après.
Professeur de littérature au Lycée et d'art oratoire à l’École normale, La Harpe fut pendant vingt ans, rédacteur au Mercure ; poète, traducteur en vers, auteur dramatique, il est célèbre comme critique ; il a laissé un ouvrage important, le Lycée ou Cours de Littérature. « Ce n'est pas un critique curieux et studieusement investigateur que La Harpe, c'est un professeur pur, lucide, animé... Il était excellent pour donner aux esprits une première et générale teinture ». (Sainte-Beuve, V).
Mort le 11 février 1803.