Disebelah ujung selatan halaman dalam terdapat sisa-sisa bangunan (bangunan IV). Disebelah utara bangunan utama terdapat bangunan bekas gudang senjata (bangunan V) berukuran 6.7 x 6 meter. Pada ujung barat halaman, juga terdapat sisa bangunan WC dan kamar mandi berukuran 6 meter persegi yang terdiri dari 3 ruangan.

Hal yang sangat unik dan khas dari Tangsi Belanda kata dia adalah ketika melihat struktur pondasi bangunan tangsi, yang berbentuk setengah lingkaran dengan peletakan tiga sendi. Teknologi arsitektural pada pondasi tangsi ternyata sangat mendekati bangunan kolonial dinegara asalnya di Eropa.

“Asumsi kita struktur pondasi seperti ini diaplikasikan pada kondisi air tanah yang tinggi dan pada struktur tanah gambut. Bentuk pondasi yang sempat diasumsukan masyarakat sebagai terowongan rahasia ini menjadi salah satu keistimewaan situs cagar budaya Tangsi Belanda, disamping bentuknya yang fungsional dan sangat identik dengan bangunan kolonial yang ada di Eropa,” kata Irving.