Atletico Madryt zostalo zalozone 26 kwietnia 1903 roku. Jednak zanim do tego doszlo, kilku studentow z Madrytu wystepowalo w Bilbao, w miejscowej druzynie Athletic - warto przy tej okazji wspomniec, iz na poczatku ubieglego stulecia pomiedzy miastem w Kraju Baskow a stolica Hiszpanii panowaly bardzo dobre relacje. Druzyna byla niezwykle silna, i chociaz wtedy nie bylo jeszcze w Hiszpanii rozgrywek ligowych, udalo sie wspolnemu teamowi Baskow i studentow Madrytu zdobyc mistrzostwo regionu. Sielanka skonczyla sie jednak 8 kwietnia 1903 roku. Athletic Bilbao zagralo mecz w Pucharze Krola, jednak na boisku nie wystapil nikt z madryckich pilkarzy. Wprawdzie Bilbao zdobylo tamten puchar, jednak studenci byli bardzo rozczarowani z powodu pominiecia ich w decydujacej fazie rozgrywek i postanowili zalozyc wlasny klub. Tak doszlo 26 kwietnia 1903 roku do powstania "Athletic Club de Madrid". Skladka czlonkowska wynosila wowczas 2,5 pesety.
Poczatkowe stroje Atletico Madryt byly w.....bialo-niebieskie pasy, natomiast Bilbao wystepowalo wowczas albo calkowicie na czarno, albo na niebiesko. Pierwszy mecz nowa druzyna zagrala 2 maja na boisku w poblizu dzielnicy Vallecas (dzis wystepuje tam Rayo Vallecano). Pierwszy mecz pomiedzy Atletico a Athletic Bilbao zostal rozegrany w 1904 roku, wynik jednak nigdzie nie zostal oficjalnie zanotowany, gdyz uwazano wtedy, iz Atletico Madryt jest jedynie madrycka filia baskijskiego klubu (co nie bylo jednak do konca prawda, jednak ze wzgledu na czlon Athletic dzialacze Bilbao ciagle tak uwazali). 28 lutego 1905 roku ponownie spotkaly sie obie jedenastki, mecz zakonczyl sie wynikiem 1:1. Podstawowy sklad Atletico wygladal wtedy nastepujaco: Valls; Bisbal, Berrahondo; Normand, Lizarraga, Yarza II; Parages, Bisbal II, Plats, Revuelta,Yarza.
Wazna data w historii klubu stal sie 20 luty 1907 roku. Tamtego dnia wladze Athletic Bilbao uznaly w pelni niezaleznosc Athletic Club de Madrid. Powyzsze zobowiazanie baskijskich dzialaczy zostalo oficjalnie zaakceptowane przez Hiszpanska Federacje. Nowym prezydentem klubu zostal Ricardo de la Gronda. Uniezaleznienie sie od Athletic Bilbao sprawilo, iz Atletico Madryt moglo teraz dzialac na wlasna reke oraz - co najwazniejsze - klub mogl teraz brac udzial w rozgrywkach o Puchar Krola, w jedynych w tamtych czasach rozgrywkach, w ktorych braly udzial kluby z calej Hiszpanii.
27 grudnia 2011 roku na oficjalnej stronie internetowej klubu pojawiła się informacja, że Gregorio Manzano zastąpi Diego Simeone. "Chcę mieć agresywny zespół, silny i odważny. Będę szukał w tych zawodnikach tego co było historią tego klubu." - tak mówił Argentyńczyk kilka dni po objęciu sterów na Vicente Calderon. Atletico Madryt w sezonie 2011/2012 nie przegrywając żadnego meczu w fazie pucharowej Ligi Europejskiej ponownie zwyciężył w tych rozgrywkach. W finale Los Rojiblancos nie dali żadnych szans Athletic Bilbao wygrywając 3-0. Dwie bramki zdobył Falcao, który został królem strzelców tego turnieju drugi rok z rzędu. Na początku sezonu 2012/2013 Simeone poprowadził Atletico do triumfu w Superpucharze Europy pokonując w Monako Chelsea aż 4:1. Falcao w tym meczu zdobył hattricka. Pod koniec tego sezonu Atletico pokonało w finale Copa Del Rey Real Madryt 2-1. Było to pierwsze zwycięstwo Los Colchoneros nad Królewskimi od 14 lat. Był to 10. triumf w rozgrywkach Pucharu Króla.
Był to jednak dopiero początek. Sezon 2013-14 był bowiem jednym z najlepszych w historii klubu. Dzięki tytanicznej pracy Cholo i jego zawodników Rojiblancos sięgnęli po 10. tytuł mistrzowski, wyprzedzając o wiele potężniejsze ekipy Barcelony i Realu. Jakby tego było mało, podopiecznym Diego Simeone dotarli również do finału Ligi Mistrzów, eliminując po drodze m.in. Milan, Barcelonę i Chelsea. W finale lepszy okazał się Real, choć jeszcze na 120 sekund przed końcowym gwizdkiem to Atlético prowadziło 1-0. Niestety wyrównującego gola strzelił Sergio Ramos, a w dogrywce Królewscy dołożyli kolejne 3 bramki i wygrali 4-1.
Los Colchoneros zrewanżowali się swoim odwiecznym rywalom dość szybko, bo już na samym początku sezonu 2014-15. W sierpniowym dwumeczu okazali się lepsi od Los Blancos i sięgnęli po Superpuchar Hiszpanii, który był już piątym trofeum zdobytym za kadencji Diego Simeone. Choć sezon był bardzo udany (3. miejsce w La Liga, ćwierćfinały Copa del Rey i Ligi Mistrzów), to jednak apetyty były nieco większe. Dlatego też do rozgrywek 2015-16 Rojiblancos przystąpiono w jeszcze mocniejszym składzie i z jeszcze większą determinacją, by znów liczyć się w walce o najwyższe cele. Taka postawa pozwoliła na ponowne dotarcie do finału Ligi Mistrzów, w którym jednak znów górą był Real. Tym razem w jeszcze bardziej dramatycznych okolicznościach, bowiem Królewscy triumfowali po rzutach karnych. Rok później Los Blancos po raz czwarty z rzędu stanęli na drodze Colchoneros do wygrania tych rozgrywek, eliminując ich w półfinale.