時隔嘉義神社鎮座已二十餘年，因神社社殿有白蟻問題，
加上逐日增加的參拜人數，致使神社空間漸不敷使用，
故於1937年3月由臺南州知事組成了「嘉義神社奉贊會」，倡議改建
並擴大嘉義神社之規模，預算為20萬圓。
嘉義神社改建工事於1939年8月14日向臺灣總督府提出，
並在1940年3月7日通過。
神社改建工程分為兩期，第一期的社殿新建工程1940年11月1日舉行
地鎮祭動工，於1942年6月13日舉行上棟祭，而後因預算不足，
再增加了25萬圓，第二期的附屬社殿於1943年8月9日竣工。
第二代嘉義神社設施有本殿（含向拜），祝詞殿、幣殿、拜殿（以上皆為
流造形式之檜木造及銅板葺建築）、瑞垣、玉垣、神饌所、迴廊、祭器庫、
神輿庫、社務所、參集所、齋館、第一鳥居（鋼筋混凝土造）、
第二鳥居（木造）、第三鳥居、手水舍、神職宿舍、社號標、
大燈籠3對，中燈籠1對，
且神社座向從座北朝南改為座東朝西。
嘉義神社原社境為8,609坪，在徵收相鄰之私有地後，
面積增加為10,075坪。
另外，於1943年8月舉行遷座祭後，
第一代嘉義神社的舊本殿便搬到嘉義神社所屬的攝社，
改祀奉倉稻魂命、大宮賣神、猿田彥神。
1944年3月28日，嘉義神社升格為國幣小社，
與新竹神社、臺中神社同為臺灣於1940年代升格為國幣小社的三所神社，
亦為其中最晚升格者。
1944年7月2日，嘉義神社例祭日改為10月7日。
戰後1949年3月由嘉義市政府接管，並將神社社殿建築改作
嘉義忠烈祠使用，並在本殿西側新建一道磚牆，將齋館及社務所隔開，
借給軍方作為八二八醫院使用。
然而於1994年4月，作為忠烈祠的神社本殿發生大火而燒毀；
同年底，市政府決亦於本殿原址興建高60公尺的瞭望塔，作為發展觀光之地標。
此塔於1997年1月動工，1999年3月完工，是為「射日塔」。
嘉義神社社務所後於修復後作為「嘉義市史蹟資料館」，
於1993年8月開幕。
1998年10月，嘉義神社附屬建築被列為嘉義市市定古蹟，
古蹟範圍包括齋館、社務所、手水舍、參集所、神輿庫
以及參道和參道兩旁的
石燈籠和高麗犬石雕。
隨著齋館在之後修復後，其亦作為嘉義市史蹟資料館，
並於2001年1月5日重新開館啟用。
齋館與社務所即為今日的嘉義市史蹟資料館，
齋館與社務所之建築形式是屬於木造的「書院造」建築，
為台灣目前少有的建築樣式。
兩棟建築的空間互為串聯，為神社祭祀前齋戒和準備相關典禮的場所，
建築內部設施如天花板、塌塌米地板、紙橫拉門、玄關、外廊道等
皆是傳統的日本建築式樣，其原始格局至今尚存。
由兩棟日據時期遺留下的建物齋館及社務所保存並改造而成的昭和 J18，
目前是為嘉義市定古蹟。
從紙橫拉門窗、手水舍等隨處可見日本的居室文化。
館藏許多嘉義昔日人、事、物的風華，入館後穿梭二棟建築，
各自分為不同空間，裏頭有用餐區、和服體驗區、嘉義小文學館、
常設展區、特展區。透過模型、視頻、物品、服裝，
可一窺日治時期當時之縮影……..
