"Tu non puoi decidere. Nessuno può decidere cosa deve succedere.
Possiamo solo scegliere cosa fare del tempo che ci è concesso!"

Gandalf il Grigio appartiene all'Ordine degli Istari ed è chiamato dagli Elfi Mithrandir. Giunto nella Terra di Mezzo, prosegue il suo incessante vagare (di lì il soprannome di "Grigio Pellegrino"), divenendo ottimo amico di Elrond, signore elfico di Gran Burrone, e dell’hobbit Gerontius, capostipite della famiglia dei Tuc.
Conosce Bilbo Baggins circa sessant'anni prima degli eventi narrati nella Compagnia dell'Anello e fra i due nasce una lunga e sincera amicizia.
Colpito dal coraggio di Frodo, che si assume l'onere di portare l'Unico Anello al Monte Fato, diviene uno dei membri alla Compagnia. Durante il viaggio, nella profondità delle miniere di Khazad-dûm, cade vittima del Balrog di Moria (che pure resta ucciso), ma l'intervento dei Valar lo rimanda da morte per il tempo necessario a completare la sua missione. Vestito di bianco, massima onoreficenza per uno stregone, diviene "una fiamma radiante", benché ancora velata, se non in momenti di grande necessità.
Libera re Theoden dall'influenza maligna di Saruman (ex capo dell'Ordine degli Istari, asservito alla volontà di Sauron) e tenta di convincerlo a muovere guerra contro le forze di Isengard. Di fronte alla titubanza di Theoden, che preferisce condurre il suo popolo al Fosso di Helm, decide di partire per richiamare Eomer (nipote del re) e il suo esercito di Rohirrim, banditi dallo stesso Theoden su consiglio del perfido Grima Vermilinguo, segretamente alleato con Saruman. Dopo 3 giorni, torna al Fosso di Helm con i rinforzi e contribuisce alla sconfitta dell'esercito dell'ex stregone bianco.
Nella guerra finale contro Sauron, guida la difesa di Minas Tirith, assediata dagli orchi del Signore Oscuro, impedendo la presa della città e la conseguente sconfitta di Gondor.
La spada elfica di Gandalf, chiamata Glamdring, viene trovata dal Mago durante un viaggio con Bilbo nella caverna degli Uomini Neri. Forgiata durante la Prima Era, Glamdring è appartenuta a Turgon, re di Gondolin, che l'ha usata per combattere orde di orchi. Dopo la sconfitta di Gondolin viene presa dagli orchi e portata come bottino di guerra nelle terre dell’Est.

L’iscrizione della spada in lingua Sindarin in Cirth:

Turgon aran Gondolin tortha gar a matha
i vegil Glamdring gûd dae[dhe]lo[th], dam an Glamhoth

(Turgon, Re di Gondolin, brandisce, possiede e maneggia la spada Glamdring, nemica del reame di Morgoth, martello degli Orchetti)