Geniş bir alana yayılan Mekteb-i Harbiye binası, Osmanlı Devleti'ne subay yetiştirmek amacıyla kurulmuş ve 1862'de inşa edilmiştir.
II. Abdülhamid tarafından yaptırılan okul binası, 1936'ya kadar okul, 1964'e kadar Kolordu Karargâhı olarak kullanılmıştır. Binanın güney bölümü Harbiye Orduevi inşa edilene kadar orduevi olarak hizmet vermiştir. 1964'te asıl binanın askeri müze olarak kullanımına karar verilmiş ve 1966'da restorasyonuna Mimar Prof. Dr. Nezih Eldem tarafından başlanarak, 1991'de bitirilmiştir. Başlangıcından bugüne kadar yapıda işlevsel ve mekânsal değişiklikler meydana gelmiş ve bina okuldan müzeye çevrilene kadar gerek iç, gerekse dış görünümü itibariyle birçok değişiklik geçirmiştir.
