David Grossman er født og opvokset i Jerusalem som den ældste af to brødre. Faren, der kom til Israel som niårig, var bibliotekar og introducerede Grossman for litteraturen.
Noget af det første litteratur, som for alvor gjorde indtryk på ham, var en historie af den jødiske forfatter Sholem Aleichem, der skriver om jødernes liv i Rusland og Polen: ”Historierne gjorde det muligt for mig at skabe min egen jødiske shetl [jødisk provinssamfund fra 1300-tallet med religiøst liv] midt i Jerusalems virkelighed,” siger David Grossman (Jonathan Shainin: Interviews - David Grossman. The Paris Review, 2010. Egen oversættelse).
Da Grossman var ni år gammel, afholdte den nationale radiostation en videnskonkurrence i netop Sholem Aleichems historier. Han deltog og kunne svare på alle spørgsmålene, men vandt ikke, for radiostationen mente, det var forkert, at en ung dreng kunne vinde så mange penge – en sum, der i dag svarer til 50 dollars. Grossmans deltagelse i quiz-programmet endte alligevel med at være lønsomt, for han blev efterfølgende tilbudt et job som radioskuespiller. Uden at vide hvad det indebar takkede han ja og arbejdede som elleveårig hver dag efter skole til omkring elleve om aftenen. Grossman fortsatte med at arbejde for radiostationen i næsten 25 år, hvor han interviewede mange forskellige mennesker og adapterede litterære tekster til radioen.
Fra 1971-1975 aftjente Grossman sin værnepligt i den israelske hær. Allerede under sin militærtjeneste havde han et behov for at skrive flere timer om dagen, men det var først, da han forlod hæren, at han for alvor begyndte at skrive historier. I 1976 giftede han sig med sin nuværende kone Michal og begyndte at læse filosofi og teater på Hebrew University of Jerusalem. Han fandt dog hurtigt ud af, at han hellere ville lave kunst frem for at studere det.
I 1986 debuterede han som forfatter med romanen ”The smile of the Lamb”, der finder sted på Vestbredden og handler om en ung soldat, der bliver venner med – og holdes som gidsel af – en ældre, palæstinensisk historiefortæller. Grossman har siden været en produktiv forfatter og udgivet bøger i mange forskellige genrer og er blevet oversat til mere end 30 sprog.
Centralt i David Grossmans liv – som forfatter såvel som privatperson – er Israels historie og Israels forhold til Palæstina. Han opfattes af kritikere som en ’naiv idealist’, der insisterer på fred mellem de to parter. Selv siger han: ”Som forfatter og fredsforkæmper igennem så mange år har jeg ikke andet valg end at blive ved med at insistere på, at vi ikke er dømt til at leve under denne konflikt. At der findes et alternativ. Jeg ved, at mine ideer om, at vi må vise modparten en grad af tillid og lade tvivlen komme dem til gode, ikke er populære (…) Hvis vi i Israel lader magten blive et mål i sig selv og ikke et middel, er der ingen tvivl om, at vi taber,” siger Grossman (Niels Ivar Larsen: ’At skrive gør det muligt for mig at leve’. Information, 2011-09-09).
Hans til tider kritiske standpunkt i forhold til Israel og hans politiske bøger er blevet angrebet af den israelske højrefløj og har ført til hadhandlinger imod ham og hans familie. Han er desuden blevet kritiseret offentligt af den tidligere Premierminister Yitzhak Shamir, hvilket førte til hans fyring fra radioen i 1988.