Dr. Zaharuddin Bin Abd Rahman mendapat ijazah Sarjana Muda dalam bahagian Usuluddin dari Universiti Malaya dan seterusnya Sarjana (M.A) dalam bidang Fiqh dan Usul Fiqh (pengkhususan dalam bidang Fiqh Mu'amalat dan Maqasid Syariah) dari University Al-Yarmouk, Jordan. Beliau menerima sijil Ph.D. dari University of Wales, United Kingdom.

Beliau uga mempunyai ijazah ilmiyyah dari Sheikh Prof. Dr. Yusuf Al-Qaradawi.

Pernah bertugas sebagai Pengurus Kanan di RHB Islamic Bank Berhad dan juga Ketua Jabatan Shariah di Asian Finance Islamic Bank Berhad, Malaysia.

Kini beliau bertugas sebagai Penolong Professor di Universiti Islam Antarabangsa Malaysia di Kulliyyah Ekonomi dan Sains Pengurusan.

Pada masa yang sama beliau berfungsi sebagai Ahli Majlis Institut Perbankan & Kewangan Islam UIAM, Ahli Lembaga Pengarah Al Naqiy Islamic Solution Sdn Bhd, Ar- Rajhi Bank, Siraj Capital Jeddah, Associate Lecturer dan Certified Trainer di The Markfield Institute of Higher Education, Leceister, United Kingdom, Penasihat Shariah Yasmin Holdings Malaysia dan beberapa syarikat korporat lain di Malaysia.

Beliau aktif menulis buku, sehingga kini beliau mempunyai 20 buah buku di dalam Bahasa Melayu, Inggeris dan Arab.