文久３年（1863年）４月、萩藩主毛利敬親は藩庁を萩から山口に移し、現在の山口県庁のある場所に政事堂を建てました。そのとき、政事堂の近くの一露山という山の麓に茶室を設け、一露山の一の字を省いて露山堂と名付けたのがこの建物です。
敬親は、茶の湯を楽しむふりをして身分に関係なく家来らをこの一室に集め、実際は幕府に対する謀り事の議論を重ねていました。
露山堂は、廃藩の後は他の場所に移築され、持ち主も数人かわり、使用されることもなく崩れ落ちていきました。これを知った、敬親の側近を長く務めた品川弥二郎は、その由緒ある建物が朽ち果てるのを惜しんで志を同じくする人と相談し、資金を集めてその建物を買収。明治24年（1891年）4月、現在の場所に移しました。茶室の周りの庭園はこのときに造られたものです。
その後、昭和38年（1963年）と48年に（1973年）増築工事が行われ、現在に至っています。