Masjid yang terindah di Negeri Perak ini terletak di sebelah kawasan permakaman Di Raja Bukit Chandan, Kuala Kangsar. Masjid ini dibina di atas kehendak Sultan Idris Murshidul Azam Shah, Sultan Perak ke-28 (1887-1916) kerana menunaikan nazar baginda.

Kerajaan Negeri Perak kemudian mengarah Colonel Huxley dari Pejabat Kerja Raya di Kuala Lumpur supaya merangka sebuah pelan masjid yang hendak didirikan itu. Tugas membuat pelan rekabentuknya telah diberikan kepada Hubbeclk, seorang arkitek kerajaan dan tugas melaksanakan bangunan itu pula diserahkan kepada Caufield sebagai ketua jurutera Negeri Perak ketika itu.
Pada hari Jumaat 26 September 1913, Sultan Idris Murshidul Azam Shah telah meletakkan batu asas masjid tersebut. Pembinaan masjid tergendala beberapa tahun kerana kerosakan ketul-ketul marmar di tempat simpanannya yang telah dipijak oleh dua ekor gajah kepunyaan Sultan Idris dan Raja Chulan.

Pesanan batu marmar yang baru dari Itali tergendala akibat tercetusnya Perang Dunia Pertama, sehinggalah 1917 barulah masjid yang terindah di negeri Perak itu dengan rasminya dibuka oleh Sultan Abdul Jalil Nasaruddin Shah iaitu Sultan Perak yang menggantikan Sultan Idris yang mangkat pada tahun 1916. Belanja pembinaan masjid Ubudiah ketika itu di anggarkan berjumlah RM200,000.00. Masjid ini disenarai sebagai Warisan Kebangsaan di bawah Akta Warisan Kebangsaan 2005.