高雄市於1924年設市，第一代高雄市役所設於哈瑪星湊町，
亦即今日高雄市鼓山區鼓波街代天宮之位置，原為山下汽船
株式會社單身宿舍。
在此之前，1920年設立之高雄州，其行政機關高雄州廳也設於
高雄市內，位於山下町之原打狗會館，亦即今日高雄市鼓山區
鼓山一路、五福四路交叉口。
由此可知，高雄州及高雄市成立時，
其行政機關借用原有之建築，
因此位於當時最重要之哈瑪星，亦即今日之鼓山區，
但對於設市後快速發展的高雄市，如何藉由行政機構
的興建來展現高雄市的新風貌，並擘劃新的高雄市藍圖，
是日治時期主政者所關切之議題。
在此思考下，高雄市陸續頒布幾次的市區改正及都市計畫，
行政機關逐漸轉往高雄川（今愛河）兩岸，以1931年新高雄州廳
及1939年新高雄市役所為主軸，配合1940年的大橋，
讓高雄川兩岸成為高雄市重要的行政辦公中心。
日治中期，台灣總督府鑒於高雄市中心發展逐漸從哈瑪星東移，
於昭和7年（1932）10月10日告示190號公布「大高雄都市計畫」，
乃將包括鹽埕榮町、前金地區計畫指定為官公署用地，並將原位
於哈瑪星湊町（今哈瑪星代天宮）的高雄市役所遷至榮町，
並鳩工新築辦公廳舍。
該辦公廳舍由清水組（大野米次郎）設計監造，
為一帝冠樣式建築，市役所基礎工程於昭和12年（1937）1月4日
正式動工，由於七七事變影響使得物價上漲，在建築材料受配給限制
後增加經費繼續，並更改建築物設計，
最終市役所昭和14年（1939）9月16日完工落成，
周遭建築物包括高雄州廳、高雄州商工獎勵館等官方建築。
主要建築設計為日本和洋折衷樣式，
建材為鋼筋混凝土所購。
為因應太平洋戰爭時期時防遭敵機轟炸，
外觀以淺綠的國防色系為基調。
整體採中央主塔搭配兩側對稱副塔的塔樓式造型，
中軸線的設計表達莊嚴、隆重的氣氛，
屋身則為柱梁與承重牆並用的混合式構造。
主塔位居四樓最高點，具良好的瞭望功能，
主塔與兩側副塔頂部均加上日本傳統建築的四角攢尖頂
與琉璃瓦大屋頂，飾以寶瓶式的塔尖、梅花圖案的滴水及
日本菊花圖騰的飾帶；
一樓設有門廊，廊頂為戶外平台，
具有校閱與典禮司令台的功能，
可一窺日本帝國主義顛峰時期的建築風貌。
內部配置方面，
建築物共有前棟四層、後棟兩層之空間使用，
建物四周牆面雕刻各種圖案紋飾，
窗戶造型如八角窗、桃形窗、弧形窗等都玲瓏有致，
而外露式陶燒排水管更是少見特殊的建築景觀。
此外館外人行道上，
有一對日式石燈籠。
民國92年（2003）2月26日經高雄市政府公告為高雄市歷史建築，
民國93年（2004）10月18日改公告為直轄市定古蹟，
昭示高雄城市歷史的變遷與成長。
2010年12月25日，高雄市縣合併之際，
「高雄市文獻委員會」併入高雄市立歷史博物館。
