Brody nacque a Woodhaven, nel Queens, a New York, figlio di Sylvia Plachy, fotografa, e di Elliot Brody, professore di storia in pensione e pittore.
Fin da bambino ha frequentato corsi di recitazione e, all'età di tredici anni, ha recitato in uno spettacolo Off-Broadway e in un film per la televisione PBS. Dopo essere apparso in Bullet nel 1996 con Tupac Shakur e Mickey Rourke, Brody era sull'orlo della celebrità, ricevendo una nomination agli Independent Spirit Award per il suo ruolo nel film Restaurant del 1998 e in seguito elogi per le sue interpretazioni in Summer of Sam di Spike Lee e La sottile linea rossa di Terrence Malick. Ha ottenuto un ampio riconoscimento quando è stato scelto come protagonista ne Il pianista (2002) di Roman Polanski. Il ruolo gli è valso un Premio Oscar come miglior attore, rendendolo, a ventinove anni, il più giovane attore di sempre a vincere il premio e, ad oggi, l'unico vincitore sotto i trent'anni. Ha vinto anche un Premio César per la sua interpretazione.
Dopo Il Pianista, Brody ha recitato in quattro film molto diversi tra loro. In Dummy (uscito nel 2003, ma originariamente girato nel 2000, poco prima del suo lavoro ne Il Pianista), ha interpretato Steven Schoichet, un aspirante ventriloquo socialmente impacciato alla ricerca di una donna che gli interessava (la sua consulente del lavoro). Per il ruolo ha imparato l'arte del ventriloquismo e della manipolazione dei burattini (sotto la guida dell'attore/ventriloquo Alan Semok) in modo così convincente da poter eseguire dal vivo sul set, in tempo reale, tutte le acrobazie vocali e la manipolazione dei burattini, senza bisogno di post-produzione. Ha interpretato Noah Percy, un giovane con disabilità mentale, nel film The Village di M. Night Shyamalan, il veterano di guerra traumatizzato Jack Starks in The Jacket, lo scrittore Jack Driscoll nel remake di King Kong del 2005 e il futuro padre Peter Whitman in Il treno per il Darjeeling di Wes Anderson. King Kong è stato un successo sia di critica che di pubblico, incassando 550 milioni di dollari in tutto il mondo, ed è il film di maggior successo di Brody fino ad oggi in termini economici. È apparso nella commedia di Woody Allen del 2011 vincitrice del premio Oscar, Midnight in Paris, nel ruolo di Salvador Dalí. Il 16 gennaio 2012, Brody ha debuttato come modello in passerella per la sfilata Prada Men Autunno/Inverno 2012.
Nel 2014, Brody ha collaborato nuovamente con Wes Anderson nel film premio Oscar Grand Budapest Hotel, dove ha interpretato Dmitri. Ha ricevuto una nomination agli Emmy come miglior attore protagonista in una miniserie o film per la televisione per aver interpretato il personaggio principale in Houdini, una miniserie di History Channel. L'anno successivo, ha interpretato Tiberio nel film cinese Dragon Blade, che ha incassato 54,8 milioni di dollari nella sua prima settimana in Cina.
Nel 2017 è stato annunciato il suo ingresso nel cast della quarta stagione della serie poliziesca della BBC Peaky Blinders. Il 4 agosto 2017 ha ricevuto il Leopard Club Award al Festival di Locarno. Il Leopard Club Award rende omaggio a una personalità di spicco del cinema il cui lavoro ha lasciato un segno indelebile nell'immaginario collettivo.