Sejarah ini berawal pada masa penjajahan, dimana Belanda melatih para pemuda Indonesia tentang penggunaan senjata artileri.
Hal ini yang membuat pemuda Indonesia memiliki kemampuan dalam menggunakan senjata berat.
Penggunaan senjata artileri di Indonesia terus digunakan hingga masa penjajahan Jepang.
Namun, pada 16 Agustus 1945 saat Jepang menyerahkan diri, para pemuda Indonesia langsung mengambil alih senjata artileri milik Jepang.
Hingga akhirnya, pada 5 Oktober 1945, dibentuklah Tentara Nasional Indonesia atau TNI.
Pasukan sekutu kemudian mulai datang ke Indonesia untuk merebut wilayah kekuasaan Jepang yang saat itu kalah dalam Perang Dunia II.
Kondisi saat itu memanas antara Indonesia dengan sekutu dan puncaknya terjadi Pertempuran Surabaya pada 10 November 1945.
Setelah Pertempuran Surabaya tersebut, Letnan Jendral Oerip Soemohardjo meresmikan Markas Artileri.