Bár a Formula-1 tette világhírűvé, Beltoise sok kortársához hasonlóan két keréken kezdte karrierjét, s számos francia bajnoki cím mellett nyolc alkalommal világbajnoki futamokon is rajthoz állt – az 1964-es Francia Nagydíjat a harmadik helyen zárta az 50 köbcentis kategóriában. Ekkorra már első jelentősebb autóversenyein is túl volt, ám egy baleset kis híján derékba törte karrierjét: a reims-i 12 órás versenyen bal karja olyan súlyosan megsérült, hogy soha nem is gyógyult meg teljesen.
Beltoise azonban nem adta fel álmát, és két évvel később megnyerte az F3-as futamot a pályán, ahol 1963-ban megsérült. A következő esztendőt már a Formula-2-ben kezdte meg, sőt a világbajnokságban is bemutatkozhatott, hiszen F2-es Matrájával ott volt a Német Nagydíj mezőnyében – az akkori szabályok ugyanis lehetővé tették ezt. Még háromszor indult Formula-2-es versenygéppel világbajnoki futamokon, majd az 1968-as Spanyol Nagydíjon már a Matra F1-es autóját vezethette.
Az első kiemelkedő eredményre nem kellett sokáig várni, hiszen mindössze negyedik versenyét teljesítette a franciák királykategóriás gépével, amikor már a dobogón ünnepelhetett a gyártó első győzelmét szerző Jackie Stewart oldalán. Beltoise 1969-re átkerült a skót mellé a Ken Tyrrell-féle Matrához, mely a gyári csapattól független istállóként működött, voltaképpen a Tyrrell-istálló elődjeként.
Bár három dobogót is szerzett, és a bajnokság hatodik helyén zárt, Tyrrell mégsem akarta megtartani őt 1970-re, így Beltoise visszatért a gyári Matrához, ahol egy viszonylag sikeres szezont teljesített. 1971 viszont borzasztóan kezdődött a számára... Az év első jelentős versenyén, a Buenos Aires-i 1000 kilométeres sportautó-futamon Beltoise autójából kifogyott az üzemanyag, így kiszállt, és megpróbálta eltolni a bokszig versenygépét, bár a szabályok ezt biztonsági okokból tiltották. A célegyenesben járva Beltoise az autó mellé lépett, ekkor érkezett meg Ignazio Giunti, aki telibe találta a Matrát. A francia versenyző óriási szerencsével megúszta a balesetet, Giunti autója viszont kigyulladt, s az olasz pilóta bent égett a Ferrariban.
Beltoise versenyzői licenszét ezt követően ideiglenesen bevonták, több versenyt ki is hagyott az évben, s mindössze egyetlen pontot szerzett a korábban hatszor dobogóra álló francia. A csapat inkább az új-zélandi Chris Amonra épített, Beltoise pedig úgy döntött, hogy továbbáll, s a régi dicsőségét hiába kereső BRM versenyzője lett. Ekkor alighanem maga sem gondolta volna, hogy hamarosan beteljesíti majd álmát, s futamot nyer a királykategóriában.
1972. május 14-én Monacóban jött el Beltoise nagy napja. A szakadó esőben rendezett, közel két és félórás futamon a BRM versenyzője mindenki másnál gyorsabbnak bizonyult, s az első sorból induló Ickxt és Fittipaldit megelőzve őt intették le elsőként a Hercegségben. Ez volt Beltoise első, s mint később kiderült, egyetlen győzelme, mely egyúttal a BRM utolsó királykategóriás sikere is volt.
A folytatás aztán már nem volt ilyen erős, Beltoise egy éven át még csak pontot sem szerzett a BRM-mel – ezt követően másfél esztendő alatt azért ez hét alkalommal összejött neki, s utolsó évében Kyalamiben még egyszer felállhatott a dobogóra is. 1973 egy személyes tragédiát is hozott a számára: az idényzáró Watkins Glen-i futam edzésén egy szörnyű balesetben életét vesztette sógora, Francois Cevert. Egy évvel később itt búcsúzott a sportágtól, korábbi sikereihez igen méltatlanul, hiszen nem tudta kvalifikálni magát a versenyre – ez F1-es autóval korábban sosem esett meg vele.
Visszavonulását követően a Ligier csapatnak tesztelt egy ideig, ám ezt követően hátat fordított a Formula-1-nek, és túraautózni kezdett. Előbb ebben a szakágban, majd ralikrosszban is francia bajnok lett, s a jégraliban is kipróbálta magát. Örökségét gyermekei is tovább vitték, az idősebbik, Anthony háromszor rajthoz állt a Le Mans-i 24 óráson is, míg Julien egy márkakupa francia bajnoki címéig jutott. Jean-Pierre Beltoise, az 1972-es monacói győztes 77 évesen dakari nyaralójában hunyt el.
