Après avoir appris la guitare en repiquant note-à-note les premiers enregistrements de Presley, il devient professionnel à l'âge de quinze ans.
Guitariste de studio, il joue avec tous les grands de l'époque (The Who, Them, Jeff Beck, Les Rolling Stones...).

Il produit Clapton mais refuse de le remplacer au sein des Yardbirds en 1965. Il remplacera finalement Jeff Beck en 1968. Les Yardbirds se séparent la même année et Jimmy Page fonde alors "The new Yardbirds". Sur les conseils amusés de Keith Moon (des Who) qui leur prévoyait un avenir aussi catastrophique que celui du fameux dirigeable, "The New Yardbirds" devient les "Led Zeppelin".
Jimmy Page à la guitare, John Paul à la basse et Robert Plant au chant.

Leur premier album est enregistré en trente heures en 1969. Ils puisent dans le blues de Howlin' Wolf, Albert King et Willie Dixon mais l'électrisent de façon sauvage; ils inventent le Hard-Rock.

Jimmy page apparaît comme un brillant innovateur, utilisant un archet, une guitare à double manche, maîtrisant le feed-back, la distorsion...