Chùa được xây để thờ Ngọc Hoàng Thượng đế, tín ngưỡng dân gian Trung Hoa do một người Hoa gốc Quảng Đông tên là Lưu Minh dựng lên vào cuối thế kỷ 19 đầu thế kỷ 20.
Nhà nghiên cứu Vương Hồng Sển cho biết Lưu Minh là một người “ăn chay ròng, giữ đạo Minh Sư, lập chí quyết lật đổ nhà Mãn Thanh, xuất tiền tạo lập chùa vừa để thờ phượng vừa để làm nơi hội kín”.
Trong cuốn sách La pagoda de Dakao (Chùa Đa Kao) của tác giả Lelièvre và Clouqueur do Hội Nghiên cứu Đông Dương xuất bản năm 1914 cho biết chùa được đặt nền móng để xây vào năm 1900 dưới sự chỉ đạo của ông Lưu Minh trên địa điểm của một miếu cổ ở Đa Kao, trong đó người ta còn có thể nhìn thấy một phần bức tường của miếu cổ, bên cạnh gốc một cây đa linh thiêng to lớn.
Tục truyền ông Lưu Minh lúc còn ở Trung Hoa bị kết án tù chung thân vì tội giết em của ông, đã hứa sẽ dành toàn bộ tài sản của mình cho các ân nhân thiên phú giải thoát ông khỏi nước Trung Hoa, và xây ngôi chùa trên một cây bị sét đánh mà khi đổ xuống đã không đè nhiều người đứng trú dưới đó. Cũng theo hai tác giả trên thì chùa được khánh thành vào năm 1906, là một trong những kiến trúc đẹp nhất ở Nam kỳ.
Chùa chịu ảnh hưởng của tín ngưỡng dân gian đạo Lão, đạo Phật và cả Khổng, theo cả ba tôn giáo, Tam giáo đồng nguyên đúng nghĩa.
Nhưng sau khi khánh thành, hoạt động trong một thời gian, chùa có vấn đề với chính quyền mà theo tờ Les Annales colonials ngày 26/12/1912, cho biết trong một buổi họp của Hội Nghiên cứu Đông Dương (La Societé des études indochinois) ở Sài Gòn có kêu gọi chính quyền giữ ngôi chùa đẹp ở Đa Kao mà hội nghe tin là sẽ bị phá đi (có thể là do ông Lưu Minh bị nợ nần). Chủ tịch Hội Nghiên cứu Đông Dương, ông Durrwell, muốn chính quyền mua lại qua đấu giá chùa này, vì ông cho rằng không những chùa có những tượng gỗ điêu khắc tuyệt vời không đâu ở Nam kỳ sánh được mà còn có các khu đất chung quanh, nếu được hiến tặng hay cho Hội Nghiên cứu Đông Dương, dời trụ sở đến đó và xây một “Bảo tàng Cluny Sài Gòn” (Viện Bảo tàng Cluny ở trung tâm Paris là viện bảo tàng thời kỳ Trung cổ, nơi có nhiều di tích thời Trung cổ và gần Đại học Sorbonne) thật sự và rất quý giá.
Thống đốc Nam kỳ thuận với ý tưởng này, và Toàn quyền Đông Dương để ý đến, mà Hội Nghiên cứu Đông Dương hy vọng là sẽ thành công. Tuy vậy việc này đã không xảy ra, và trụ sở cũng như bảo tàng của Hội phải di chuyển vài lần trước khi bộ sưu tập được dời đến địa điểm sau cùng là Bảo tàng Blanchard de La Brosse, ngày nay là Viện Bảo tàng Lịch sử TP.HCM trong Thảo Cầm Viên.
Trong chùa, ngoài các tượng Ngọc Hoàng, Thổ địa, Thanh Long đại tướng, Phục Hổ đại tướng, Quan Phu Tử, Văn Xương, Thiên Tướng, Thiên Thần, còn có tượng Phật. Năm 1982, chùa gia nhập Giáo hội Phật giáo Việt Nam. Đến năm 1984, chùa Ngọc Hoàng được đổi tên là Phước Hải tự.
Chùa Ngọc Hoàng là chùa đặc thù duy nhất ở Sài Gòn và Chợ Lớn thờ tín ngưỡng dân gian, pha trộn Phật và Lão giáo, có kiến trúc, thiết kế với nhiều tượng thờ đẹp, đặc sắc. Đây là địa điểm mà nhiều du khách nước ngoài đến thăm viếng không kém địa điểm du lịch quen thuộc ở trung tâm là Bưu điện Thành phố và Nhà thờ Đức Bà. Tổng thống Mỹ Barack Obama trong chuyến thăm chính thức Việt Nam đã chọn chùa Ngọc Hoàng để đến thăm vào ngày 24/5/2016.
(Trích Kiến trúc đô thị và cảnh quan Sài Gòn – Chợ Lớn xưa và nay;
Nhà xuất bản Tổng hợp TP.HCM)