Fils d'un modeste receveur d'octroi, il commença ses études au collège de Montbéliard et partit dès 18 ans pour la Russie où il passa douze ans à enseigner le français et à sillonner la Russie des Tsars, de la Crimée à la Pologne. Il visita ensuite l'Allemagne, l'Italie et se fixa à l'âge de 30 ns quelque part à Jersey où il épousa une nièce de l'explorateur Mungo-Park, le plus illustre explorateur britannique de l'époque.

Un livre anglais sur le royaume de Siam lui donna l'idée de visiter cette contrée lointaine. Mouhot soumit d'abord ses projets de voyage à une société française, mais fut éconduit. il s'adressa alors au gouvernement de Napoléon III, qui lui refusa le passage gratuit sur ses vaisseaux. Moins dédaigneuses, les sociétés de géographie et de zoologie de Londres lui prêtèrent leur puissant appui. Sur un navire à voiles, il gagna Singapour, puis Bangkok. De ce premier voyage d'entraînement qui fut de courte durée, il rapporta de riches collections (insectes nouveaux, coquilles terrestres et fluviales inédites) qu'il envoya en Angleterre.

Quelques mois plus tard, reparti pour Chantaboum sur le golf de Siam, il s'avança plus avant dans l'intérieur. En janvier 1860, Il arriva à Angkor-Vat, l'ancienne capitale du royaume Kmer. Mouhot restera le véritable inventeur des ruines grandioses de cette cité mystérieuse, car le P. Bouillevaux, un missionnaire qui les avait vues avant lui, n'en avait pas compris la magnificence. Il fut le premier français à visiter Luang Prabang, dont le roi lui donna droit de vie et de mort sur tous ses sujets. 

En mars 1861, Mouhot se rend au Laos qu'il explore et où il est reçu par le roi, mais ses voyages l'avaient épuisé. Ses deux domestiques l'inhumèrent près de Naphan où une mission française, sous les ordres du commandant Doudart de Lagrée, éleva en 1867 un modeste monument sur la tombe de notre vaillant compatriote sur lequel, dans son rapport, le commandant s'exprimait ainsi : "Nous avons trouvé partout le souvenir de notre compatriote qui, par la droiture de son caractère et sa bienveillance naturelle, s'était acquis l'estime et l'affection des indigènes".
Détruit par un débordement de la rivière Nam Khan, Pavie le fit reconstruire en 1887 : "Je m'entendis avec les chefs du village pour la construction d'un monument durable, et d'une maisonnette pouvant abriter le temps d'un repas, les visiteurs dont le but serait de venir saluer à sa dernière demeure, le bon voyageur qui, au Laos, fit le premier aimer le nom français."
Il fut restauré par l'EFEO en 1951 et par la ville de Montbéliard en 1990.