จุดกำเนิดของมัสยิดไม่ชัดเจนนัก ในช่วงสงครามโลกครั้งที่ 2 ญี่ปุ่นเข้ามาทำลายตำราศาสนา คัมภีร์      อัลกุรอ่านในมัสยึด และงัดไม้กระดานไปจนหมด เหลือเพียงโครงสร้างของอาคารเท่านั้น แต่ก็ยังสามารถปฏิบัติศาสนกิจได้เช่นเดิม กระทั่งท่านฮัจยีฮามะ ดาเด๊ะ กลับมาจากเมืองเม็กกะ จึงได้ชักชวนชาวมุสลิมมาร่วมกันบูรณะ จนถึงสมัยจอมพล ป.พิบูลสงคราม เป็นนายกรัฐมนตรี ท่านฮัจยีฮามะฯได้เดินทางไปกรุงเทพฯ เพื่อขอสมทบทุนการก่อสร้างจากรัฐบาลจำนวน 500,000 บาท และนำมาสร้างจนแล้วเสร็จเป็นมัสยึดกลางอันมีเอกลักษณ์ และเป็นจุดศูนย์รวมใจของพี่น้องชาวมุสลิมดังที่เห็นในปัจจุบัน