Jean-Jacques Sempé nasceu em Bordeaux, na França. Aos 18 anos, foi para Paris, onde percorreu diversas redações até conseguir vender seu primeiro desenho, em 1951, para o jornal Sud-Ouest.
Conheceu René Goscinny, o criador de Asterix, justamente quando começava sua carreira na imprensa, como caricaturista e chargista. Paralelamente às ilustrações para O Pequeno Nicolau, Sempé passou a ter a própria coluna na revista Paris Match, em 1956, além de colaborar com inúmeras outras publicações.