Em meados do ano de 1968 o rock passava por um período de mudanças fundamentais... o descompromisso do início dos anos 60 passava a dar espaço a músicas e letras mais elaboradas, representados entre outros pela banda Yardbirds, de Eric Clapton e Jeff Beck. Nesta época James Patrick Page era um guitarrista de sessão que já havia gravado com os Rolling Stones, The Who, Pretty Things, entre outros e foi chamado para substituir Eric Clapton quando este abandonou o Yardbirds (Eric Clapton viria mais tarde a formar o Cream). Foi a primeira vez que Page participou de uma banda de renome... mas o que viria depois iria ser muito mais importante...
No final de 1968 a banda Yardbirds se desfaz e Page trata de montar um novo grupo. Um amigo o leva a procurar Robert Plant, vocalista da pequena Band of Joy. Da Band of Joy vem também o baterista, John Bonham. Juntamente com Chris Deja. A banda resolve se chamar New Yardbirds. O baixista Chris Deja não se encaixa ao som da banda e é logo substituído por John Paul Jones, também músico de sessão, que já havia gravado entre outros com os Rolling Stones. O Led Zeppelin começou abrindo turnês de bandas maiores e terminaram como atração principal dos shows.
O primeiro disco já havia levado a banda ao topo das paradas em todo o mundo, apesar de não terem sido lançados singles (isso revolucionaria o mercado musical dali para a frente, pois se passou a considerar mais importante cada disco como um todo ao invés de lançar as músicas separadamente em singles). Sem interromper as turnês a banda gravou ainda em 1969 o segundo álbum. Led Zeppelin II foi um sucesso de vendas ainda maior. Whole Lotta Love se tornou o primeiro grande hit da banda. Apesar de ser uma banda inglesa, só com o segundo disco a banda foi aceita na sua terra natal e desbancou os Beatles no gosto da crítica.
Em 1970 a banda tirou "férias" dos shows e se encerrou em uma cabana na escócia para gravar e compor o álbum mais acústico do Led Zeppelin. O nome da cabana era Bron-Y-Aur, que viria se tornar uma das músicas do disco. O disco Led Zeppelin III deixava claras as raízes da banda no blues e na música folclórica celta. O disco foi sem sombra de dúvidas diferente, mostrando muita musicalidade da banda, mas sem a emoção forte que era a sua característica. Foi um fracasso de vendas. Os shows da banda haviam se tornado verdadeiras demonstrações de resistência. Os improvisos que se seguiam a Dazed and Confused chegavam a durar mais de 45 minutos.
Em 1971 sairia o divisor de águas da carreira do Led Zeppelin, o álbum sem título, comumente chamado de Led Zeppelin IV. Entre outras músicas se destacou Stairway to Heaven, o rock mais executado e conhecido de todos os tempos (apesar de não ter sido lançado em single). Stairway to Heaven era uma mistura única de música acústica e rock pesado. A música Rock and Roll passou a ser a abertura dos shows da banda. O sucesso deste álbum foi tão grande que mentes doentes chegaram cogitar um pacto satânico da banda que haveria vendido suas almas em troca da fama.
Em 1973 o álbum Houses of The Holy decepcionou aos que esperavam outras músicas como Stairway to Heaven. Era um álbum mais denso e difícil de ser ouvido. A banda neste disco adotou influências de soul e reggae como pode ser facilmente observado na faixa Dyer Maker. Parte do público detestou. A música The Song Remains the Same viria a ser o título do vídeo sobre a banda. De uma forma ou de outra o Led Zeppelin continuava lotando estádios ao redor do mundo e vendendo discos como nenhuma outra banda de rock na época.
Em 1975 sai o álbum duplo Physical Graffiti, um álbum disperso e extenso demais. A única faixa a adicionar algo a sonoridade do Led Zeppelin foi Kashmir, que se tornaria uma das marcas registradas da banda. Logo após o lançamento de Physical Graffiti um acidente de carro com Robert Plant levou a banda a férias forçadas durante mais de um ano, em meio a boatos de dissolução.
O álbum Presence, lançado em 1976 é um reflexo da fase ruim por que passava o Led Zeppelin. Nenhuma música se destacava. O cenário do rock mudava com o punk e o Led Zeppelin não conseguia mostrar criatividade. No meio da turnê que se segue, um novo acidente, a morte do filho de Plant, leva a banda a parar novamente. Neste intervalo foi lançado o vídeo The Song Remains the Same (no Brasil com o título ridículo de Rock é Rock Mesmo).
Em 1978 o álbum In Through the Out Door marcou a volta da banda aos estúdios e também aos palcos. Apesar da falta de novidades a banda continuava a maior do mundo. Após uma reunião de planejamento da turnê americana, o baterista John Bonham morre sozinho em seu quarto em virtude de uma overdose de alcóol. A decisão de acabar com a banda foi aceita por todos os membros restantes.
