Sebelum Melaka mencapai kemerdekaan melalui Persekutuan Tanah Melayu, tidak wujud Institusi Agama Islam yang ditubuhkan oleh Penjajah Inggeris untuk mengurus segala perkara berkaitan pentadbiran Hal Ehwal Agama Islam di Negeri Melaka. Setelah mencapai kemerdekaan, timbullah hasrat kerajaan negeri untuk menubuhkan sebuah institusi yang bertanggungjawab bagi mentadbir Hal Ehwal Agama Islam di Melaka. Maka pada 1 Rabiul Awal 1380H bersamaan 28 September 1960M, Jabatan Agama Islam Melaka (JAIM) telah ditubuhkan dengan rasminya dimana upacara perasmian diadakan di bangunan No. 272, Jalan Tengkera, Melaka dan bangunan ini menjadi bangunan pertama Pejabat Agama Islam Negeri Melaka.

Ketika penubuhan, Jabatan Agama Islam Melaka telah dikendalikan oleh seorang pegawai bersara selaku Yang Dipertua Jabatan Agama Islam dan dibantu oleh seorang kerani. Beliau bertanggungjawab untuk membentuk dan mengatur pentadbiran Jabatan Agama Islam Melaka. Orang yang pertama memegang jawatan Yang Dipertua ialah Tuan Hj. Mohd. Amin Bin Imran.

Jabatan Agama Islam Melaka terus berkembang dengan pengwujudan beberapa bahagian seperti Pejabat Kadhi Daerah dan Mahkamah Syariah pada tahun 1962. Ketika itu, Mufti mempunyai kuasa bagi menjalankan tugas-tugas sebagai Khadi Besar. Walau bagaimanapun apabila jawatan Khadi Besar diwujudkan pada tahun 1967, jawatan tersebut telah menghapuskan sebahagian daripada bidang kuasa mufti. Kemudian. pada tahun 1986, Jabatan Agama Islam Melaka telah ditempatkan di Seri Negeri, Jalan Hang Tuah.

Pada tahun 1990, Mahkamah Syariah diasingkan dari Jabatan Agama Islam Melaka. Pada tahun 1991, Jabatan Agama Islam Melaka telah ditempatkan di Bangunan Graha Maju, Jalan Hang Tuah, Melaka. Kemuncak kepada sejarah perkembangan Jabatan Agama Islam Melaka ialah pada Disember 1996, apabila Bahagian Mufti pula diasingkan daripada Jabatan Agama Islam Melaka.

Pada tahun 1992, bagunan Pejabat Agama Islam Daerah Jasin (PADJ) yang bertempat di Jalan Melaka telah diserahkan kepada pihak RISDA dan berpindah ke sebuah bangunan lama yang telah dikosongkan oleh Majlis Daerah Jasin. Pada 23 Mei 2006, Pejabat Agama Islam Daerah Jasin telah beroperasi sepenuhnya di Kompleks Pejabat Agama dan Mahkamah Rendah Syariah Daerah Jasin sehingga hari ini.

Pada tahun 2000, Pejabat Agama Islam Daerah Alor Gajah (PADAG) telah berpindah daripada Bangunan Wisma Umno ke tingkat 1 Bangunan MARA disebabkan pertambahan jawatan dan memerlukan persekitaran yang selesa untuk memberi perkhidmatan kepada orang awam. Pada tahun 2007, Pejabat Agama Islam Daerah Alor Gajah berpindah ke Kompleks Pejabat Agama dan Mahkamah Rendah Syariah Alor Gajah sehingga hari ini.

Pada awal tahun 2004, Bahagian Pendakwaan telah diasingkan daripada Bahagian Penguatkuasaan. Pejabat Bahagian Penguatkuasaan yang ditempatkan di Bangunan Rumah Haji Said di Kampung Gangsa Durian Tunggal telah berpindah ke Bangunan Majlis Agama Islam di Jalan Kee Ann, Melaka pada tahun 1997.

Jabatan Agama Islam Melaka melalui Bahagian Khidmat Pengurusan, Bahagian Undang-Undang Keluarga Islam, Bahagian Dakwah dan Pejabat Agama Daerah Melaka Tengah telah berpindah secara rasminya ke Kompleks Majlis Agama Islam Melaka pada tahun 2007 manakala Bahagian Pendidikan, Bahagian Penyelidikan, Bahagian Penguatkuasaan, Bahagian Pendakwaan dan Pejabat Agama Daerah Melaka Tengah telah berpindah ke Kompleks Perniagaan Al-Azim, Bukit Palah Melaka secara rasmi pada 10 April 2010.

Kini, Jabatan Agama Islam Melaka telah berdiri sendirian sebagai sebuah jabatan di bawah pentadbiran Kerajaan Negeri Melaka yang terdiri daripada 12 bahagian utama iaitu Bahagian Dakwah, Bahagian Khidmat Pengurusan, Bahagian Pendidikan, Bahagian Pendakwaan, Bahagian Penguatkuasaan, Bahagian Undang-Undang Keluarga Islam, Bahagian Penyelidikan, Bahagian Pengurusan Halal, Bahagian Pengurusan Masjid dan Pejabat Agama Daerah yang dipecahkan kepada tiga iaitu; Pejabat Agama Daerah Melaka Tengah, Pejabat Agama Daerah Jasin dan Pejabat Agama Daerah Alor Gajah.