C'est à l'âge de vingt ans qu'il décide de quitter le Morvan.

Après un court passage dans l'armée en 1875, Pompon arrive à Paris où il devient ouvrier marbrier dans une entreprise funéraire près du cimetière Montparnasse. Il suit des cours du soir de la Petite École. Ses professeurs sont les sculpteurs Aimé Millet (1819-1891) et Pierre Louis Rouillard (1820-1881), également professeur d'anatomie, qui lui fera découvrir la ménagerie du jardin des plantes. Pompon débute au Salon de peinture et de sculpture de 1879 et, en 1880, travaille comme ornemaniste sur le chantier de reconstruction de l'hôtel de ville de Paris. En 1882, il épouse la couturière Berthe Vilain (1857-1921). Le couple emménage dans un atelier-logement au no 3 rue Campagne-Première à Paris.

Il fait la rencontre de Rodin,  devient son praticien et par son intermédiaire, fait la connaissance d'écrivains, d'intellectuels et du milieu artistique parisien. Il fréquente alors Ernest Nivet et Camille Claudel. Il a pendant longtemps exercé son métier de praticien pour d'autres sculpteurs comme Jean Dampt en 1885, Antonin Mercié en 1888, Alexandre Falguière en 1890, ou René de Saint-Marceaux de 1896 à 1914, ainsi que pour Camille Claudel.

 

Pompon s'intéressera à l'art d'Extrême-Orient et il sera profondément marqué par le japonisme alors très en vogue à l'époque. Il admirait aussi l'art égyptien exposé au musée du Louvre, comme le Taureau Apis, Horus. Sa première sculpture animalière connue représente un Lucane (1874).

 

1905, L’année où Pompon devient sculpteur animalier.

1905, L’année de l’épuration des lignes. Pompon va supprimer les détails de ses sculptures, polir les formes, épurer les lignes. Le Style Pompon naît. L’Art en sera bouleversé.

Pourtant ce n’est qu’en 1922 qu’il connaîtra la célébrité. Âgé de soixante-six ans il atteint son apogée artistique avec le vif succès remporté par l'un de ses chefs-d'œuvre, L'Ours blanc, composition monumentale, exposée au Salon d'automne où son œuvre s’émancipe, par son modernisme, de l’esthétisme de la sculpture réaliste héritée du XIXème siècle.

Dès lors, il ne cesse de créer des sculptures animalières dont il va, au préalable, étudier les modèles au Jardin des Plantes.

Commandé par la ville de Paris, Le Taureau est la dernière œuvre qu'il exécuta. Une réplique du Taureau est érigée en 1948 dans un square aménagé à l'entrée de la ville de Saulieu.

​

Il est enterré le 10 mai 1933 à Saulieu, et repose, avec son épouse, sous son Condor en bronze. La Ville de Saulieu créa quelque temps après un musée François-Pompon, qui lui permet d'accéder à titre posthume à la reconnaissance de sa ville natale, lui qui avait été meurtri de n'avoir pas été sollicité pour le Monument aux morts de Saulieu en 1919, alors qu'il vivait dans la pauvreté. On reconstitue son atelier de la rue Campagne-Première au Muséum national d'histoire naturelle avant son entrée dans les plus prestigieux musées du monde.