Paul et son frère Victor sont les enfants du général Jean-Auguste Margueritte qui servit longtemps en Algérie. Paul publiera en 1886 une biographie et des lettres de son père.
Les deux filles de Paul, également romancières, écrivirent sous le nom de Lucie Paul-Margueritte (1886-1955) et d'Ève Paul-Margueritte (1885-1971).
Il figure parmi les dix membres de l'Académie Goncourt.
Il s'engage avec son frère dans la lutte pour l'égalité et le droit des femmes. Il publie notamment à ce sujet Adam, Ève et Brid'oison.
Adepte du naturalisme, il publie différents romans de ce genre : Tous Quatre, La Confession posthume, Pascal Géfosse ou encore Jours d'épreuves.
