Sejarah moden ATM bermula dengan pengambilan 25 orang pemuda Melayu sebagai skuad percubaan Rejimen Askar Melayu pada 1 Mac 1933. Rejimen ini terus berkembang menjadi satu batalion penuh yang dikenali sebagai Batalion Pertama Rejimen Askar Melayu pada 1 Januari 1938. Batalion kedua ditubuhkan pada 1 Disember 1941 iaitu enam hari sebelum Perang Dunia Kedua bermula di Malaya. Kedua - dua batalion ini telah menunjukkan kebolehan mereka dalam peperangan menentang tentera Jepun. Selepas perang, negara dilanda pula oleh ancaman Komunis dan keadaan Darurat telah diisytiharkan pada tahun 1948. Keadaan ini memerlukan pembesaran angkatan tentera. Menjelang tahun 1950 kekuatan Rejimen Askar Melayu telah ditambah menjadi tujuh batalion. Pada zaman Darurat juga, angkatan tentera telah melihat penubuhan pasukan berbilang bangsa iaitu Rejimen Persekutuan dan Skuadron Kereta Perisai Persekutuan pada tahun 1952. Setelah negara mencapai kemerdekaan pada tahun 1957, Tentera Darat telah berkembang maju dan lengkap untuk menjalankan operasi melawan insurgensi. Pada masa ini pasukan Tentera Darat sedang pesat dipermodenkan sebagai satu pasukan tentera konvensional yang mampu untuk menghadapi cabaran masa depan.
Tentera Laut Diraja Malaysia bermula dari Pasukan Simpanan Sukarela Tentera Laut Negeri-negeri Selat pada 27 April 1934 di Singapura. Pasukan ini diperbesarkan pada tahun 1938 dengan penubuhan cawangan Pulau Pinang dan ditukarkan nama kepada Pasukan Sukarela Tentera Laut Diraja Malaya. Menjelang Perang Dunia Kedua, seksyen Melayu dalam Royal Navy telah ditubuhkan dan kekuatan pasukan ini mencapai jumlah 1430 anggota pada tahun 1941. Selepas kejatuhan Singapura pada tahun 1942, seramai 150 orang anggota Tentera Laut Malaya telah berundur ke Ceylon, India dan Afrika Timur. Anggota -anggota ini kembali ke Malaya apabila perang tamat. Malangnya disebabkan kekurangan kewangan selepas perang, Tentera Laut Malaya telah dibubarkan pada bulan April 1947. Apabila darurat tercetus pada tahun 1948, Tentera Laut Malaya telah dihidupkan semula dan diwartakan pada 4 Mac 1949. Tentera Laut Malaya dianugerahkan gelaran Diraja oleh baginda Queen Elizabeth II pada tahun 1952. Tentera Laut Diraja Malaya yang selama ini menjadi sebahagian daripada Royal Navy telah dipindahkan dari Singapura ke Persekutuan Tanah Melayu pada 12 Julai 1958. Serentak dengan ini, panji-panji Royal Navy telah ditukarkan dengan panji-panji Persekutuan Tentera Laut Diraja Malaya. Selepas penubuhan Malaysia pada tahun 1963 ia dikenali sebagai Tentera Laut Diraja Malaysia.
Titik mula TUDM ialah dengan penubuhan Pasukan Sukarela Tentera Udara Negeri-negeri Selat (SSVAF) oleh British pada tahun 1936. Pasukan ini ditukar nama kepada Pasukan Simpanan Tentera Udara Malaya pada tahun 1940 tetapi telah dibubarkan selepas Perang Dunia Kedua. Pada tahun 1950 pasukan ini telah dihidupkan semula sebagai Royal Air Force Malaya(RAF Malaya). Tentera Udara Malaya menjadi kenyataan pada tahun 1958 apabila pesawat Twin Pioneer pertama mendarat di pangkalan RAF Kuala Lumpur. Tentera Udara Diraja Malaya ditubuhkan dengan rasminya pada 2 Jun 1958.
