Mehta è nato a Bombay e si è formato con il padre, Mehli Mehta, fondatore dell’Orchestra Sinfonica di Bombay. Iniziati gli studi di medicina, a diciotto anni li abbandona per frequentare la Wiener Musikakademie: dopo sette anni dirigerà sia i Berliner sia i Wiener Philharmoniker, diventando rapidamente uno dei direttori più richiesti al mondo, ricoprendo posizioni come direttore musicale della Montreal Symphony Orchestra, della Los Angeles Philharmonic Orchestra, della New York Philharmonic Orchestra e della Bayerische Staatsoper. La Israel Philharmonic Orchestra lo ha nominato Music Advisor nel 1969, direttore musicale nel 1977 e direttore musicale a vita nel 1981.

Fra concerti, registrazioni, tournée, Zubin Mehta e la IPO hanno eseguito centinaia di esibizioni in tutti i continenti. La sua lunga collaborazione con il Maggio Musicale Fiorentino è culminata nel 2006 con la nomina a direttore musicale a vita. La lunga lista delle onorificenze conferitegli include la cittadinanza onoraria di Firenze e Tel Aviv, il “Nikisch-Ring” dei Wiener Philharmoniker, il “Premio per la pace e la tolleranza” delle Nazioni Unite, il Kennedy Center Honor; nel 2001 il presidente Chirac lo ha nominato Cavaliere della Legion d’Onore e nel 2008 ha ottenuto il Premium Imperiale della Japan Art Association. È cittadino onorario di Firenze e di Tel Aviv e membro onorario della Wiener Staatsoper, della Bayerische Staatsoper e della Gesellshaft der Musikfreunde Wien. La pubblicazione nel 2006 della sua autobiografia La partitura della mia vita ha ottenuto vasti consensi.