Né à Paris, le 5 avril 1845.
Frère cadet de l’ambassadeur Paul Cambon (1843-1924), Jules Cambon s’illustra également dans la diplomatie.
Après des études de droit, il devint avocat en 1866. Lors de la guerre de 1870, il servit comme capitaine d’une compagnie de mobiles. Il entra ensuite dans l’administration et devint auditeur à la commission provisoire qui remplaçait le Conseil d’État.
En 1874, il poursuivit sa carrière en Algérie, d’abord à la Direction générale des Affaires civiles, puis comme préfet de Constantine. Dans les années qui suivirent, il occupa les fonctions de secrétaire général à la Préfecture de Police de Paris (1879), de préfet du Nord (1882), puis du Rhône (1887). Il retrouva l’Algérie en 1891, comme gouverneur général et, en 1897, il fut nommé ambassadeur de France aux États-Unis. À ce poste, il négocia en 1897 la paix entre l’Espagne et les États-Unis.
De 1902 à 1907, il succéda à son frère comme ambassadeur de France en Espagne. Nommé en 1907 à Berlin, il y œuvra de toutes ses forces pour la détente des relations franco-allemandes et pour la sauvegarde de la paix. Il parvint à éviter la guerre en 1911, au moment de la crise d’Agadir. Après la Première Guerre mondiale, il participa à l’élaboration du traité de paix, puis devint secrétaire général au ministère des Affaires étrangères, et enfin président de la Conférence des Ambassadeurs.
Ce diplomate, qui avait rendu de très grands services et dont la parole faisait autorité dans les milieux gouvernementaux, fut élu à l’Académie le 16 mai 1918, au fauteuil de Francis Charmes. Il obtint dès le premier tour 19 voix, contre 5 à Pierre Mille et 3 à Tancrède Martel. Il fut reçu le 20 novembre 1919 par Alexandre Ribot.
Jules Cambon allait recevoir Louis Bertrand en 1926, et le général Weygand en 1932.
Il est l’auteur d’un ouvrage intitulé Le Diplomate, nourri de son expérience et de ses souvenirs d’ambassadeur et de négociateur.
Mort le 19 septembre 1935.