Nama Gampong Matang Mesjid berasal dari awal mula ter jadinya Gampong Matang Panyang , dimana saat itu dipimpin oleh seorang ule baling yang masih punya garis keturunan Ampon .Pada masa tersebut Masyarakat Matang Panyang mendiami wilayah yang sangat luas dari Matang sagoe ,paya Lipah ,Paya Meuneng ,Cot Panjoe Dan Matang Cot Paseh sepakat Untuk Memekar Gampong menjadi beberapa Gampong seperti yang tersebut diatas.Dari asil Musyawarah Raya disepakati Gampong Matang Mesjid terpilih sebagai gampong yang akan didirikan sebuah Mesjid untuk wilayah Matang Panyang .Yang selanjutnya Matang Panyang di Jadikan Nama Kemukiman walau pernah terjadi perubahan dimasa Orde Baru Matang Mesjid tunduk Ke Kemukiman Matang Glumpang Baro. Pada tahun 2000 kembali lagi ke Kemukiman Matang Panyang.Oleh karena sebab itu maka Gampong tersebut dinamai Matang Mesjid.