Josep Palau i Fabre neix a Barcelona el 21 d'abril de 1917, però passa el primer any d'infància a Badalona. El seu pare fou el pintor, decorador i inventor de joguines Josep Palau i Oller. Els internats on estudia li van marcar desfavorablement la infantesa.
Col·labora en la premsa catalana abans del 1936. Als divuit anys comença a fer crítica literària a La Humanitat, és així com pot entrevistar Federico Garcia Lorca, Josep Maria de Sagarra, André Maurois, etc. i on va coneixent tots els escriptors catalans. El 1938 el mobilitzen al cos de Sanitat del Ministeri de Guerra. A l'entrada dels franquistes, era a Olot i va ser dut al camp de concentració de Lleida.
Del 1939 al 1943 cursa estudis de Filosofia i Lletres. Coneix Joan Triadú, Miquel Tarradell, Miquel Dolç, Néstor Luján. El 1941 organitza les primeres sessions clandestines d'Amics de la Poesia a casa seva. Publica el primer recull de poemes (una part del qual havia estat publicat a Melilla: Balades amargues) L'aprenent de poeta (1944), que va impactar en aquells moments per la incorporació de l'erotisme en algunes composicions
Fou el creador i l'editor de la revista Poesia (1944-45) on es lliga la tradició medieval d'Ausiàs March amb la noucentista,
El 1946 rep una beca del govern francès per una estança d'un any a París, que li va ser renovada l'any següent. S'hi està setze anys. Als inicis duu una vida bohèmia, fa d'estra de cinema, de professor d'espanyol, de periodista, de cambrer... però cap al 1953 s'estabilitza econòmicament treballant a 'la Casa de México'. És un període d'aprenentatge i maduresa, que li permet conèixer entre altres personatges a Artaud, Camus, Octavio Paz i sobretot a Pablo Picasso. Retorna a Catalunya el 1961.
L'impacte que li provoca conèixer personalment Picasso marca el contingut dels seus assajos centrats gairebé tots en l'estudi d'aquest pintor des de diversos àmbits: Vides de Picasso (1962), Picasso (1963), Doble assaig sobre Picasso (1964), Picasso a Catalunya (1967 i 1975), obra d'investigació, Picasso per Picasso (1970), recull i anàlisi de tots els autoretrats, Picasso i els seus amics catalans (1971), L'extraordinària vida de Picasso (1971), per a infants, El "Guernica" de Picasso (1979), Picasso vivent, 1881-1907 (1980), El secret de les Menines de Picasso (1981), Vides de Picasso. Assaig d'una biografia pura (1986), Picasso cubisme (1998) Estimat Picasso (1998, Lletra d'Or), Picasso dels ballets al drama, 1917-1926 (1999).
L'any 1962 inicia una etapa vital solitària a Grifeu (la Costa Brava) que s'allarga fins al 1975, combinant-la, però, amb ininterromputs viatges picassians.
L'any 1984 va ser guardonat amb el premi de Literatura Catalana d'Assaig de la Generalitat de Catalunya pel seus Nous quaderns de l'alquimista. L'any 1989 rep la Creu de Sant Jordi de la Generalitat de Catalunya. L'any 1996 aplega a Les metamorfosis d'Ovídia dotze narracions escrites entre 1989 i 1994. El 1996 el distingeixen amb el Premi Nacional de Cultura; el 1999, amb el Premi d'Honor de les Lletres Catalanes, el 2000 és nomenat Officier de l'Ordre des Arts et des Lettres, pel govern francès y l'any 2006 obté el premi Crítica Serra d'Or d'obres completes.
El maig del del 2003 s'inaugura la Fundació Palau a Caldes d'Estrac (Maresme), que ell mateix presideix. Posteriorment rep diferents homenatges com el que li va retre l'Ajuntament de Barcelona al Palau de la Música, l'any 2005. Mor a Barcelona el 23 de febrer de 2008 als noranta anys d'edat.
Era Soci d'Honor de l'Associació d'Escriptors en Llengua Catalana.