Изначально новосозданный клуб намеревался войти в Южную Лигу. Но команды Южной Лиги "Фалхэм" и "Тоттенхэм", решив, что новая команда может переманить на свою сторону их болельщиков, подговорили остальных участников Лиги отказать "Челси". Однако, предвидя такой поворот событий и резкое неприятие со стороны лондонских клубов, Мирс и Паркер также направили запрос о членстве в английскую Футбольную Лигу. Футбольная Лига, после вступления в неё в начале века команд "Бристол Сити" и "Вулвич Арсенал", желала расшириться на юг страны, и команды, участвовавшие в ней, приняли запрос "Челси". Команда была принята во второй дивизион Футбольной Лиги на голосовании, проведённом 1 июня 1905 года.

Первые два матча "Челси" провёл против команд, также дебютировавших в Лиге. 2 сентября 1905 года команда сыграла выездной матч против "Стокпорт Каунти" (поражение 0:1). Первый домашний матч стал также первым официальным матчем, в котором "Челси" одержал победу - со счетом 5:1 был обыгран "Халл Сити". В последующих тридцати шести играх команда потерпела поражение всего 6 раз, заняв во второй лиге третье место - всего на одну ступеньку ниже команд, попадавших в первую лигу. Второе место, завоёванное в следующем сезоне, позволило "Челси" уже на второй год своего существования пробиться в элиту Футбольной Лиги. В это же время в команде произошла первая смена руководства. Со дня основания команды её тренером был Джок Робертсон, теперь же место Робертсона занял Дэвид Калдервуд.

Первый сезон с Калдервудом в первом английском дивизионе "Челси" завершил на 13-м месте, к финишу следующего сезона команда пришла 11-й. В сезоне 1909/10 "Челси" впервые вылетел в низшую лигу, заняв 19-е место. Двумя сезонами позднее команда снова вернулась в первый дивизион. В феврале 1912 года, ещё во время выступлений команды во втором дивизионе, скончался в возрасте 37 лет основатель "Челси" Гас Мирс. В том же сезоне команда впервые добралась до полуфинала Кубка Англии, проиграв там "Ньюкаслу" со счетом 0:3.

До Второй Мировой войны кубковые матчи оставались единственной возможностью проявить себя, так как в чемпионате "Челси" оставался крепким середнячком. Только в 1920 году клуб смог добиться третьего места в чемпионате, уже успев пятью годами ранее выступить в финале Кубка. В том матче на стадионе "Олд Трэффорд" "Челси" потерпел обидное поражение от "Шеффилд Юнайтед" со счетом 0:3. Матч этот стал известен как "финал в хаки" ("Khaki Final") из-за большого количества солдат, присутствовавших на игре. В 1924 году команда снова очутилась во втором дивизионе.

В 1930 году "Челси" в третий раз в своей истории занял второе место во втором дивизионе. Все эти годы командой продолжал руководить Дэвид Калдервуд, и это был его 23-й сезон на посту тренера "Челси". Тремя годами позже Калдервуд ушёл, уступив место Лесли Найтону, но и по сегодняшний день он остаётся тренером, работавшим с командой наиболее продолжительный срок. Найтон, как и большинство других тренеров, приглашённых после Калдервуда, тренировал команду значительно меньше, только до начала Второй Мировой войны. Вместе с тем, Найтону удалось в течение всего этого времени удержать команду от вылета во второй дивизион. В годы войны команда выступала в Лондонской и Южной лигах, а также выиграла Южный Кубок в сезоне 1944/45. Тренером в то время был Билли Биррелл. По окончании войны возобновился обычный формат соревнований, но вплоть до отставки Биррелла в 1952 году команда не смогла подняться выше 13-го места.

Пятым тренером команды стал бывший нападающий "Арсенала" и сборной Англии Тед Дрэйк. И именно с Дрэйком команде удалось добиться наибольшего своего успеха в чемпионате за всю историю. В 1955 году "Челси" стал чемпионом Англии, опередив прошлогоднего победителя первенства "Вулверхэмптон" на 4 очка. Однако не только первая команда, но и юношеская, молодёжная команды и команда дублирующего состава "Челси" - все они завоевали первые места в своих чемпионатах. Вместе с тем, Футбольная Лига отклонила запрос "Челси" об участии в розыгрыше Кубка европейских чемпионов, ссылаясь на загруженный график английского чемпионата. Этот отказ частично стал причиной неудачных выступлений команды в последующих сезонах. В следующем году "Челси" откатился с первого места сразу на 16-е, а в 1962-м команда в третий раз в своей истории вылетела из первого дивизиона.

Несмотря на кратковременный взлёт, к моменту ухода Дрэйка команда находилась практически в том же положении, что и в начале его работы. На смену Дрэйку пришёл бывший игрок сборной Шотландии Томми Дохерти. В 1962-67 годах, когда командой руководил Дохерти, "Челси" прогрессировал от года к году. В первый же год "Челси" стал вице-чемпионом второго дивизиона (первое место занял "Сток Сити"), и в последующие годы не опускался в турнирной таблице первого дивизиона ниже девятого места.

При Дохерти команда дважды добиралась до полуфиналов Кубка Англии - в 1965 и 1966 годах - а в следующем году вышла в финал. Однако за все эти годы коллекция трофеев не смогла пополниться - в финале "Челси" потерпел поражение от "Тоттенхэма" - 1:2.

По окончании работы Дохерти команду принял Дэйв Cэкстон. Успешные выступления клуба в Англии продолжились и при нём, а кульминацией стала победа в Кубке Англии в начале 1970-х. Завоевав третье место в сезоне 1969/70, игроки не имели права расслабляться - им предстоял очередной финал Кубка. Соперником "Челси" в финале был великолепный "Лидс" Дона Реви, занявший в том сезоне второе место. Йоркширцы считались фаворитами в этом матче и ещё раз доказали свое преимущество, когда Джек Чарлтон открыл счёт. До перерыва игрок "Челси" Питер Хаусмэн успел счёт сравнять. Всего за шесть минут до конца матча "Лидс" отыгрывается, но этого оказалось недостаточно. За две минуты до свистка Йэн Хатчинсон с подачи Джона Холлинса вновь устанавливает равновесие. Впервые с 1912 года понадобилась переигровка финала. Второй финальный матч на "Олд Трэффорде" прошёл в такой же напряженной борьбе, как и первый, и ни одна из команд не шла в атаку сломя голову. "Лидсу" вновь удалось забить первыми, но за 12 минут до окончания матча "Челси" снова отыгрывается - мяч забил Питер Осгуд. Уже в дополнительное время герой первого матча Йэн Хатчинсон вбросил аут прямо в штрафную соперника - и защитник "Челси" Дэвид Уэбб не промахнулся. Этот гол впервые за два матча вывел лондонцев вперёд и в итоге принёс им первую победу в Кубке Англии.

Победа над "Лидсом" оказалась всего лишь предисловием к тому, что ждало команду в следующем сезоне. "Челси" впервые в своей истории выступил в Кубке обладателей кубков и дошёл до полуфинала, победив "Арис" (Салоники), "ЦСКА" (София) и "Брюгге". В полуфинале лондонцам противостоял прошлогодний победитель турнира - "Мэнчестер Сити". Выиграв 2:0 по сумме двух встреч, футболисты "Челси" доказали своё превосходство над соперником и вышли в финал, где их ждал грозный мадридский "Реаль". В финальном матче, проходившем в Афинах, мадридцы считались фаворитами (в основном благодаря своему имени, а не форме, которую они демонстрировали). Однако на 55-й минуте игрок "Челси" Питер Осгуд открыл счёт. За считанные секунды до конца основного времени Зоко, воспользовавшись ошибкой Джона Демпси, сравнял результат. Дополнительное время не выявило победителя, и снова понадобилась переигровка. Второй матч прошёл через два дня на том же стадионе, и на 32-й минуте Джон Демпси, желавший загладить свою вину, забил первый гол. Осгуд, участие которого в матче было под вопросом, всё же вышел в составе "Челси" и провёл второй мяч. Однако уже в первом тайме ему пришлось покинуть поле. За 15 минут до конца встречи "Реалю" удалось один мяч отквитать. В оставшееся время "Челси" успешно справился с натиском испанцев, и в итоге сумел стать четвёртой английской командой, завоевавшей этот почётный трофей.

Победа эта стала пиком возрождения команды, но одновременно и точкой отсчёта для нового спада в игре "синих". Новый турнир команда начала с впечатляющих побед на люксембургским "Ля Женесс", но во втором раунде проиграла по правилу гостевых голов в матчах со шведским "Этвидадбергом". В 1974 году Cэкстон ушёл из команды, а в 1975-м "Челси" снова пришлось покинуть первый дивизион. С того времени и до 1990-х годов удача не часто поворачивалась лицом к команде.

В период с 1974 по 1993 год с командой работали десять различных мэнэджеров. Дольше всех пробыл на этой должности Джон Нил (1981-85), но при нём команда чуть не вылетела в третий дивизион, остановившись всего в двух очках от зоны вылета. Однако уже на следующий год Нилу удалось перестроить команду так, что "Челси" сходу занял первое место во втором дивизионе (впервые в своей истории). Нил после этого стал директором команды, а тренером был Джон Холлинс, а затем Бобби Кэмпбелл. При них "Челси" был снова понижен в ранге, и снова стал чемпионом второго дивизиона. Ещё два тренера работали с командой - Йэн Портерфилд и Дэвид Уэбб, а затем тренером был назначен перешедший из "Суиндона" Гленн Ходдл, и "Челси" начал свой путь к возрождению. Президент Кен Бэйтс помог Ходдлу практически полностью изменить лицо команды, пригласив нескольких знаменитых игроков, в частности великого голландского футболиста Рюуда Гюллита.

В 1996 году Ходдл перешёл на работу в сборную Англии, оставив команду третьим призёром чемпионата. При Ходдле же в 1994 году "Челси" попал в финал Кубка Англии, но уступил "МЮ" со счётом 0:4. Ходдла на тренерском посту сменил Гюллит, при котором состав "Челси" пополнился великолепным итальянским трио: Джанлука Виалли, Джанфранко Дзола и Роберто Ди Маттео. В 1997 году команде удалось удовлетворить свои амбиции, завоевав Кубок Англии во второй раз в своей истории (победа 2:0 над "Миддлсбро", голы забили Ди Маттео и Эдди Ньютон). Эта победа, казалось, сделает непоколебимыми позиции Гюллита в команде. Однако в феврале 1998 года, когда команда дошла до финалов Кубка Кубков и Кубка английской лиги, Гюллит был уволен из-за конфликта с руководством, и на его место пришёл Виалли. Тем не менее, команда выиграла Кубок Лиги (снова в финале повержен "Миддлсбро" - 2:0).

Однако важность этой победы была очень мала по сравнению с предстоявшим финальным матчем Кубка обладателей кубков, который "Челси" играл в Стокгольме против "Штуттгарта". Основное время того матча, казалось, завершится при счёте 0:0, но тут вышедший на замену Джанфранко Дзола открыл счёт после паса Денниса Уайза. Этот гол и принёс "Челси" победу и второй европейский кубок. За ним последовала и победа в Суперкубке Европы - единственный гол, забитый Густаво Пойетом в ворота мадридского "Реаля" на последних минутах матча, принёс команде этот трофей.

Сезон 1998/99 "Челси" закончил на третьем месте, что позволило команде участвовать в квалификации Лиги Чемпионов. Пройдя оба групповых этапа (в первом групповом турнире разгромлен будущий обладатель Кубка УЕФА "Галатасарай" - 5:0), лондонцы оступились в четвертьфинале. В первом матче против "Барселоны" "Челси" вёл 3:0, но уже в конце встречи, расслабившись, пропустил гол от Фигу. Впоследствии этого гола оказалось достаточно для "Барсы", чтобы с таким же счётом 3:1 завершить основное время матча на "Ноу Камп", а затем забить два мяча в дополнительное время.

Кроме первого в истории "Челси" выступления в Лиге Чемпионов, сезон 1999/2000 запомнился также внушительной победой над самим "Мэнчестер Юнайтед" на "Стэмфорд Бридж" (5:0 - два гола Пойета, мячи Морриса и Саттона, автогол Х.Берга) и новой победой в Кубке Англии. Самым запоминающимся матчем того розыгрыша стал полуфинал против "Ньюкасла", когда соперники практически весь матч переигрывали "Челси", но лондонцам удалось одержать победу со счётом 2:1 благодаря голам Пойета. В финале на "Уэмбли" была побеждена "Эстон Вилла" (1:0, нелепый гол Ди Маттео). К финишу чемпионата команда пришла пятой.

К тому времени "Челси" стал практически полностью легионерской командой. Президента Бэйтса и тренера Виалли часто обвиняли в том, что они покупают иностранных звёзд, не обращая внимания на английские таланты. Дошло до того, что в одном из матчей в составе "Челси" не было ни одного англичанина - так прошёл эксперимент по созданию "сборной мира" из лондонского клуба. В "Челси" в то время выступали ставшие чемпионами мира французы Дешам, Лебёф и Десайи.

Летом 2000 года "Челси" выиграл матч за Суперкубок Англии ("Черити Шилд") у всё того же "Мэнчестер Юнайтед" - 2:0. Казалось, что в Англии появился новый претендент на чемпионский титул.

Однако сезон 2000/01 команда начала весьма неубедительно - сухие поражения от "Эстон Виллы" и слабейшей команды того чемпионата - "Брэдфорда", ничья с "Ньюкаслом" - и это несмотря на приобретение в межсезонье одного из лучших нападающих Европы голландца Джимми Флойда Хассельбайнка. Кроме того, в команде ухудшилась общая атмосфера, в прессу просачивались слухи о ссорах удачливого, но неопытного тренера Виалли с игроками. В конце концов было принято решение об увольнении самого успешного тренера в истории "Челси" (5 различных кубков за два с половиной года - таковы достижения Виалли) и назначении на его пост другого итальянского специалиста Клаудио Раньери. Однако приход его был омрачён вылетом из Кубка УЕФА в первом же раунде от слабого швейцарского "Санкт-Галлена". Команда закончила сезон на шестом месте и снова получила право участвовать в Кубке УЕФА, а Хассельбайнк стал лучшим бомбардиром чемпионата с 23 голами.