Attore francese dal volto paterno che, in Italia, almeno per coloro che amano il cinema francese, è noto per il ruolo del preside di un istituto per la rieducazione dei minori in Les choristes. Volto severo e voce tonante è però uno degli attori francesi più usati nelle commedie leggere.
Figlio di un commerciante armeno e di una gitana, trascorre un'infanzia non felice, dato che deve sottostare alla prolungata assenza paterna. Dopo aver studiato economia, decide di seguire la sua passione teatrale e debutta sulla scena in una pièce intitolata "Sur une plage de l'Ouest". Quando i suoi studi obbligatori terminano ufficialmente, si iscrive al corso di arte drammatica di Tania Balachova, dove incontra il regista Daniel Benoin, con il quale collaborerà dal 1974 al 1981, partecipando a una quindicina di spettacoli, classici e contemporanei.
Dopo aver lavorato con la compagnia di Splendid e nella miniserie tv Au plaisir de Dieu (1977) con Pino Colizzi, debutta nella carriera cinematografica con il film Martin et Léa (1979) di Alain Cavalier, per il quale da quel momento in poi lavorerà sovente. Sarà molto attivo negli anni Ottanta: affiancherà Nathalie Baye e Tchéky Karyo ne La spiata (1982) di Bob Swaim, reciterà per Michel Blanc ne L'amico sfigato (1984) e spesso lo vedremo in stretto sodalizio artistico con Pierre Jolivet, che lo dirigerà in Strictement personnel (1985) e Le complete du kangourou (1986). Diretto da Louis Malle, reciterà in due dei suoi film migliori: Arrivederci, ragazzi (1987) e Milou a maggio (1990).
La sua carriera prosegue continua e costante anche nella seconda metà degli anni Novanta con Le fuggitive (1995) di Nadine Trintignant e L'esca di Bertrand Tavernier, che poi lo inserirà anche in Capitan Conan (1996). Benoît Jacquot e Pierre Jolivet sono gli autori che più lo inseriscono nelle loro pellicole, ma è con La truffa degli onesti (1999), pellicola che viene successivamente a Place Vendome (1998, con Catherine Deneuve), che Berleand vince il suo primo César: quello come miglior attore non protagonista. Si lascia andare nello scandaloso Romance (1999) di Catherine Breillat, passa a un'immagine più pulita ne Les choristes - I ragazzi del coro (2004) e poi alla commedia catastrofica Finché nozze non ci separino (2004). Non mancano certo, nella sua filmografia, i gialli di Chabrol: La commedia del potere (2006) e La fille coupée en deux (2007).