日本殖民政府在1895年統治台灣始，初期尚未有全面的都市更新計畫，但進行了應急的衛生工程。
不過為了將清朝統治台灣的象徵抹除，日本政府逐漸的將台北城內的官舍建築拆除，建立新的政府建築，其中在1904年時將城牆整個拆除僅剩下城門。日本殖民政府的官廳，一改清朝官舍的座北朝南方位，而改以「向北、向東」的座向。依據莊永明的說法，這是有其「北望日本」、「迎接旭日」的政治考量，「今天的介壽路(凱達格蘭大道)及仁愛路，即是表徵這種帝國意識的『都市中軸線』。」
在將城內建築拆除的同時，也依據著「南北兩分」的形式進行，將台北城內區分為南面的官署街和北面的商業區。

1895年日本政府開始對台灣的殖民統治後，便將台北城作為其行政中心，並且使其成為日本人聚集的城市。唯一開始怕引起台灣人的反彈，並沒有很快的採取拆毀城內建築的行動。

到了1901年，從拆除城牆開始，日本政府將城內的重要建築 -- 特別是清朝留下來的官舍建築逐步的拆毀，並且費了很多的力氣進行殖民政府機關建築的興建。

由此原本的台北城可說是蕩然無存。然而在民間街道的部分，在清朝時便開始有商業聚及的石坊街、西門街、北門街、府前街及府後街等，到了日治時期仍是主要的民間街道，並且經過了市區改正仍然保持原有的輪廓，除了立面被改為折衷主義樣式的歐洲風建築外，這五條街道也是後來本町、表町、京町、大和町及榮町的範圍所在。

1884年台北城牆完工到1901年日本政府拆除城牆，不過才17年的時間，然而由城牆所畫設出的城內範圍，並未因為城牆的消失而有所改變。日本人先是為了鐵道的通車，而將北門附近的城牆率先破壞，並希望拆除所有的城門。後來為了便利車輛交通的需求，遂將城牆全面拆除，在原地規劃為寬闊的三線道路，並在中央設置有植樹的分隔島。
國民政府接管台灣後，並未對城內的建築進行大規模的改造，從政府辦公建築、主要道路到公園綠地，大部分依照日治時期留下來的設施繼續使用。

{文章來自台灣科技大學建築系 專題研究 }