גיטרה קלאסית עזובה אחת, שכנראה נשכחה לאחר מעבר דירה – זה כל מה שהיה צריך כדי שבגיל 11 הילד שענה לשם ג’ימי הגיע לדירה החדשה שאליה עברה משפחת פייג’. הוא אימץ אותה אליו, וכנראה איכשהו הבין שהם נועדו זה לזו. אחרי כמה שיעורים בסיסיים, הוא המשיך לבד, ולימד את עצמו תוך כדי הקשבה לתקליטים של הגדולים מעבר לאטלנטי, דוגמת סקוטי מור – הגיטריסט של אלביס.
ב-1957 בגיל 13 הוא הופיע לראשונה ב-BBC כגיטריסט ברביעיית חברים, מנגן בסגנון ה”סקיפל”- מוזיקה עממית בריטית קצבית. כשנשאל מה הוא רוצה להיות שיהיה גדול, השיב על משהו שקשור למחקר ביולוגי, אבל המוזיקה הייתה חזקה ממנו, ובגיל 15 השלים את לימודיו בבית הספר, ויצא לממש את מקצועו האמיתי.
תחילת שנות ה-60 היו כר פורה למוזיקאים באשר הם, ולפייג’ הצעיר חיכתה הרבה עבודה. הוא התחיל להופיע במועדונים של לונדון יחד עם הרכבי בלוז, ביניהם אלקסיס קורנר- שנחשב ל-“סנדק” של הבלוז הבריטי. השמועה על הגיטריסט המוכשר התפשטה על גלי הקול שיצאו מהמגבר שלו והוא נקרא לנגן גיטרה בעשרות הקלטות בניהם באלבומיהם של “הקינקס”, ואן מוריסון, מריאן פיית’פול, ועוד רבים וטובים.
פייג’ צבר ניסיון אדיר בשעות אולפן ארוכות, אך כשהתבקש לנגן בהקלטת מוזיקת רקע לחנויות, הוא הבין שהגיע לקו האדום התחתון, והודיע למעסיקיו שלא ינגן יותר. שבוע אחר כך הוא שמע שפול סמואל סמית’, הבסיסט של להקת ה”יארדבירדס”, מחלוצת הבלוז-רוק הבריטי עזב את ההרכב. פייג’, שכבר הוצע לו בעבר להחליף בהרכב את הגיטריסט אריק קלפטון, ובמקום את עצמו הוא הציע את חברו ג’ף בק, החליט כעת להיכנס לעמדת הבאסיסט בהרכב יחד עם בק בגיטרה חשמלית. שיתוף הפעולה בין השניים ערך זמן קצר. בק החליט לפרוש ולצאת לקריירה עצמאית ופייג’ חזר לעמדת הגיטרה המובילה, אך לזמן קצר. לאחר שהקליטו אלבום אחד שלא צלח, חברים נוספים פרשו מההרכב ולמעשה הותירו את פייג’ לבד. בניסיון להציל את הלהקה, ולעמוד בהתחייבויותיה להופעות בסקנדינביה אסף פייג’ שלושה מוזיקאים חדשים – רוברט פלאנט, ג’ון בונהם, וג’ון פול-ג’ונס. הם הופיעו בהתחלה תחת השם- The New Yarbirds- בעיקר כדי לשמור על המוניטין, אבל מהר מאוד שינו כיוון ושינו את שמם ל-Led Zeppelin.
בהנהגת פייג’, הפכה לד זפלין למכונת הבלוז-רוק האולטימטיבית. יחד עם Deep Purple ו- Black Sabbath הם נחשבים לאבות הרוק הכבד והמטאל. שעות האולפן בעבר סייעו לו בהפקת הסאונד ה”זפליני” המיוחד והאופייני. אלבומם הראשון הוקלט בהפקתו של פייג’ תוך 36 שעות ויצא בינואר 1969. בזמן אמת האלבום נקטל על ידי הביקורות, אבל היום הוא נחשב לאחד מאלבומי הבכורה הטובים והחשובים בכל הזמנים. אלבום חלוצי שמהווה עד היום השראה לנגנים ומוזיקאים.
האלבום השני גם בהפקתו של פייג’ הציג קו כבד יותר, כאשר פייג’ מפזר באלבום אלמנטים שייהפכו בהמשך ללחם והחמאה של הרוק הכבד- “ריף” גיטרה אלמותי ב- Whole Lotta Love, סולו גיטרה באמצע השיר, וקטע אינסטרומנטלי שבמרכזו סולו תופים. לא בכדי הגיע אלבום זה לראש מצעד המכירות בארה”ב כשהוא דורך על Abbey Road של הביטלס.
לד זפלין נשארו נאמנים גם למוזיקה ממולדתם והקפידו לתת מקום של כבוד גם למוזיקת הפולק והסקיפל הבריטים דוגמת That’s The Way ו-Bron-Y-Aur Stomp באלבום השלישי, וכןGoing To California ו-The Battle Of Evermore באלבום הרביעי. האחרון הוא הדואט היחיד של הלהקה בה חולק רוברט פלאנט שירה יחד סנדי דני, סולנית הרכב הפולק רוק Fairport Convention.
פייג’ פיתח סאונדים ייחודיים בדרכים לא שגרתיות, למשל- בשיר Where the levee breaks מתוך אלבומם הרביעי שרובו הוקלט בטירה ישנה, הוא הציב את מערכת התופים מתחת לגרם מדרגות וכך השיג הדהוד שגרם להם להישמע רועמים במיוחד. לקשת הצ’לו מעולם לא היה שמור מקום של כבוד, או מקום בכלל בתולדות הרוק. אבל פייג’ העביר אותה על מיתרים שהיא לא הייתה אמורה לפגוש מעולם. באמצעותה הוא הפיק מהגיטרה החשמלית שלו צלילי כישוף שטרם נשמעו. בהופעותיהם הם מתחו את גבולות השירים מהאלבום, ופתחו אותם לאלתורים ומשמעויות חדשות.
מותו של ג’ון בונהם, אולי המתופף הכי גדול ברוק, בסופו של לילה רווי אלכוהול בספטמבר 1980, הביא לפירוקה של להקת הרוק הגדולה ביותר אי פעם. הם יצאו לדרך חדשה, ולקריירות עצמאיות, אבל לשמחתנו פלאנט ופייג’ נהגו להיפגש מדי פעם לפרויקטים קצרים יחד כגון הHoneydrippers””, הרכב חד פעמי שהקליט קאברים לשירי רוקנרול ישנים וכן שני אלבומים שהקליטו במשותף, שאחד מהם כלל גרסאות חדשות לשירי לד זפלין. פייג’ יצא לקריירת סולו קצרה ולא משמעותית אבל המשיך לשתף פעולה עם מגוון אמנים לפרויקטים מוזיקליים חד פעמיים, כגון ההרכב The Firm יחד עם פול רוג’רס, סולן להקת Free, ואלבומים משותפים עם רוי הארפר ודייוויד קוברדייל, סולן Whitesnake.
ב-2007 התאחדו שלושת חברי לד זפלין יחד עם ג’ייסון בונהם, בנו של המתופף האגדי, להופעת איחוד אחת אחרונה.
לאורך השנים דורג פייג’ בין 5 הגיטריסטים המשפיעים אי פעם, הוא הפיק ויצר עם להקתו אלבומים שנמכרו במאות מיליוני עותקים, והביא את להקתו לפסגת עולם הרוק. הוא הביא את עקרון “ריף” הגיטרה לדרגת אמנות, ויצק את היסודות האיתנים עליהם יניחו רבים אחרים את השכבות והפרשנויות שלהם בבניין הרוק.