Der am 6. Oktober 1929 bei Paris geborene Cremer hatte zunächst als Schauspieler am Theater begonnen, bevor er 1957 seine erste Kinorolle erhielt. Danach spielte er als populärer Charakter-Darsteller in mehreren Dutzend Kino- und TV-Filmen mit.
Den ganz großen Durchbruch schaffte er jedoch ab 1991 im französischen Fernsehen als Darsteller der Romanfigur des Kommissar Maigret, der nachdenklich an seiner Pfeife ziehend komplizierte Kriminalfälle löst. Bis zum Jahre 2005 stellte der Vater von drei Kindern den beliebten Kommissar dar.