Taman Paroi Jaya Fasa 1 mula dibuka pada tahun 1978. Atas kesedaran perlunya tempat beribadat secara berjemaah, penduduk menubuhkan Persatuan Kebajikan dan Kemajuan Masyarakat Taman Paroi Jaya.
Seksyen Agama pertubuhan ini mengambil inisiatif dengan menjadikan salah sebuah rumah teres dua tingkat di Lorong Kenari 3 sebagai surau; dan kemudiannya berpindah ke sebuah rumah teres di Jalan Nuri.
Idea tercetus kemudiannya untuk memohon tanah kepada kerajaan bagi mendirikan surau dan ianya mendapat kelulusan. Bagaimanapun idea itu dikembangkan untuk membina masjid dan sebuah jawatankuasa pembinaan telah ditubuhkan.
Permohonan persempadanan kariah dibuat bagi membolehkan masjid dibina dan ia diluluskan pada tahun 1983.
Jawatankuasa Pembinaan Masjid telah berusaha sedaya upaya dan menghadapi pelbagai cabaran dan halangan bagi mengumpul dana sebanyak RM1.4 juta untuk membina masjid berkenaan.
Dengan kerjasama dan sokongan daripada semua pihak, seorang kontraktor bumiputera, seorang hartawan Melayu, Kerajaan Negeri Sembilan dan derma daripada penduduk, pembinaan masjid dimulakan pada tahun 1987.
Surau di Jalan Kedidi 3 (kini Sekolah Agama Rakyat) dijadikan tempat solat Jumaat dan aktiviti-aktiviti keagamaan ketika itu sementara menunggu masjid siap.
Bagaimanapun pada tahun 1990, Jawatankuasa Pembinaan Masjid menghadapi masalah kewangan untuk menyiapkannya. Sehubungan itu projek berkenaan diserahkan kepada Kerajaan Negeri.
Dalam tahun 1991, bangunan masjid siap dibina dan pihak Jabatan Kerja Raya telah menyerahkannya kepada Jabatan Agama Islam Negeri Sembilan dan seterusnya menyerahkan kepada Jawatankuasa Pembinaan Masjid.
Mulai 6 Disember 1991, Masjid Kariah Paroi Jaya dapat digunakan.
oleh: Zulkifli Abu
