Gedung Mesiu berdiri di atas tanah kerajaan yang diserahkan pada pengurus masjid atau dikenal sebagai tanah antalmal. Secara keseluruhan, bangunan berdenah segi empat ini merupakan bangunan tembok beton. Keseluruhan struktur bangunan Gudang Mesiu terbuat dari Dinding bangunan Gudang Mesiu lebih tebal daripada bangunan kolonial yang lain. Atap bangunan pada bagian penampil berbentuk setengah lingkaran. Sementara itu, ruangan utama Gudang Mesiu atapnya berbentuk kubah dengan kemuncak yang berbentuk menyerupai keben pada atap candi. Pada ruangan utama bangunan Gudang Mesiu atapnya memiliki ventilasi yang berbentuk persegi. Ventilasi tersebut berada tepat di atas kemuncak. Jendela yang dijumpai pada bagian dinding berbentuk persegi dengan jeruji yang terbuat dari besi. Adapun pintu masuk utama pada Gudang Mesiu berbentuk melengkung pada bagian atasnya dengan daun pintu yang terbuat dari kayu.

Bangunan ini adalah tempat penyimpanan mesiu (obat meriam atau senapan). Kapan dan siapa yang mendirikan, tidak diketahui dengan pasti. Kemungkinan bangunan ini didirikan pada abad ke-18, yaitu pada masa pemerintahan Raja Ali, yang mana beliau melakukan pembenahan terhadap benteng-benteng di Pulau Penyengat untuk melanjutkan peperangan. Jadi, kemungkinan bangunan ini sezaman dengan Benteng Bukit Kursi dan Benteng Bukit Penggawa, karena fungsinya saling berkaitan. Berdasar riwayat, dahulu di Pulau Penyengat ini terdapat 4 buah gudang mesiu, tetapi sekarang tinggal satu buah yang terletak di sebelah selatan Masjid Raya Penyengat