臺灣早在清領劉銘傳時期，即於臺北北門街（今衡陽路）、石坊街（今博愛路）、西門街等處，開鑿深井供水，為臺北公共給水之始。
日人治臺之初，展開自來水設施之規劃。陸續完成取水口、唧筒室建築與設備，輸配水管、淨水場及配水池等，西元1909年淨水場開始供水，出水量20,000噸，用水人口12萬人，並命名為臺北水源地慢濾場，從此臺北自來水開始邁入現代化之供水系統。
二戰之後因應用水需求，臺北市政府數次擴建抽水、淨水設施，持續引用新店溪的水供給臺北地區的用水。直到民國66年（西元1977年），唧筒室正式完成「抽取原水、輸送淨水」之使命，功成身退。自西元1908年創建迄今己有百餘年的歷史，民國82年（西元1993年）六月被內政部列為三級古蹟（現為直轄市定古蹟），後經臺北自來水事業處斥資修護，恢復唧筒室之原貌，並多方蒐集有關自來水歷史的照片及器材，充實整體內容與相關周邊設備，完成全國首座自來水博物館，於民國87年（西元1998年）開放參觀。
博物館外觀仿照西洋巴洛克風格的建築設計，外型典雅復古，並且配合抽水需求而做特別的功能設計。館內陳列著臺灣現代化自來水開展的過程，呈現先人開發水資源的歷史演進，包括古董級的抽水設備，各式檢修設備以及消防設備等，都是非常珍貴的歷史見證。並且可經由實地參觀自來水的處理過程，包括現代化的加藥消毒、嚴格的品質監控，讓人實際體會水資源的得來不易。
此外，自來水園區還規劃有不同的主題區，包括水霧花園提供遊客觀水、親水、戲水的空間；花園造景、水鄉庭園、管材雕塑區可以休憩賞玩；輸配水器材區和公館淨水場呈現實際的供水程序；公館觀音山並建立有完整的山區步道，讓遊客可以休閒步行、親近自然。