Brody nació en Woodhaven, Queens, Ciudad de Nueva York, Nueva York, hijo de Sylvia Plachy, fotógrafa, y Elliot Brody, profesor de historia jubilado y pintor.
Desde niño tomó clases de actuación y, a los trece años, apareció en una obra de teatro Off-Broadway y en una película para televisión de PBS. Después de aparecer en Bullet en 1996 con Tupac Shakur y Mickey Rourke, Brody estuvo a punto de alcanzar el estrellato, recibiendo una nominación al Independent Spirit Award por su papel en la película Restaurant de 1998, y posteriormente elogios por sus papeles en Summer of Sam de Spike Lee y The Thin Red Line de Terrence Malick. Obtuvo un amplio reconocimiento cuando fue elegido para el papel principal en El pianista de Roman Polanski (2002). El papel le valió un Premio de la Academia al Mejor Actor, convirtiéndose, a los veintinueve años, en el actor más joven en ganar el premio y, hasta la fecha, el único ganador menor de treinta años. También ganó un Premio César por su actuación.
Después de El Pianista, Brody apareció en cuatro películas muy diferentes. En Dummy (estrenada en 2003, pero filmada originalmente en 2000, justo antes de su trabajo en El Pianista), interpretó a Steven Schoichet, un aspirante a ventrílocuo socialmente torpe que busca el amor (su orientadora laboral). Aprendió ventriloquia y manejo de marionetas para el papel (bajo la tutela del actor y ventrílocuo Alan Semok) con la suficiente convicción como para realizar todas las acrobacias vocales y la manipulación de marionetas en vivo en el set, sin doblaje posterior. Interpretó a Noah Percy, un joven con discapacidad intelectual, en la película El Bosque, de M. Night Shyamalan; al veterano de guerra traumatizado Jack Starks en The Jacket; al escritor Jack Driscoll en el remake de King Kong de 2005; y al futuro padre Peter Whitman en Viaje a Darjeeling, de Wes Anderson. King Kong fue un éxito tanto de crítica como de taquilla: recaudó 550 millones de dólares en todo el mundo y es la película más exitosa de Brody hasta la fecha en términos económicos. Participó en la comedia ganadora del Óscar de Woody Allen en 2011, Medianoche en París, interpretando a Salvador Dalí. El 16 de enero de 2012, Brody debutó como modelo en el desfile de Prada Men Otoño/Invierno 2012.
En 2014, Brody volvió a colaborar con Wes Anderson en la película ganadora del Óscar, El Gran Hotel Budapest, donde interpretó a Dmitri. Recibió una nominación al Emmy como Mejor Actor Principal en una Miniserie o Película por su papel protagonista en Houdini, una miniserie del canal History. Al año siguiente, protagonizó la película china Dragon Blade, en el papel de Tiberio, que recaudó 54,8 millones de dólares en su primera semana en China.
En 2017, se anunció que se uniría al elenco de la cuarta temporada del drama policíaco de la BBC, Peaky Blinders. El 4 de agosto de 2017, recibió el premio Leopard Club en el Festival de Locarno. El premio Leopard Club rinde homenaje a una figura destacada del cine cuyo trabajo ha dejado una huella imborrable en el imaginario colectivo.