Zijn grootste succes kende hij in 1936 toen hij de Olympische wegwedstrijd in Berlijn won en daarmee zijn landgenoot Armand Blanchonnet opvolgde als olympisch kampioen wielrennen. Op diezelfde Olympische Spelen van 1936 werd hij eveneens olympisch kampioen op de weg met de landenploeg en ploegenachtervolging op de baan.
In 1947 nam Charpentier deel aan de Ronde van Frankrijk van dat jaar. Na de tweede etappe werd hij gediskwalificeerd.