清光緒二十年（1894），清日甲午戰爭，次年，清國戰敗，雙方簽訂馬關條約，清國將臺灣割讓予日本，從此日人領台，展建南北鐵路，於光緒21年（1895、明治28年）10月9日，自新竹以南進行路線測勘。

光緒25年（1899，明治32年）5月原經大稻程河溝頭、海山口鐵路，改經艋舺（萬華）、枋橋（板橋）、樹林、山仔橋（山佳）鶯歌石（鶯歌），接桃仔園（桃園）南下。

光緒26年（1900，明治33年）9月15日興建台北淡水間21.2公里鐵路，均於光緒27年（1901，明治34年）10月25日竣工通車。同日起臺北站及淡水河岸線辦理整車貨運。

民國7年（1918，大正7年），日人遷建臺北站站場於今北平西路現址。俟至民國29年（1940、昭和15年）6月，站房再予重建。

  台北站位於台鐵基起28公里628公尺，居台北市中心。編制等級特等站，為台鐵全線主要專辦客運大站，亦為客運業務最繁忙之車站，居北台灣交通之樞紐。70年代台北站站場面積約20萬平方公尺，北起28K+053M南迄29K+541M。站房建於民國29年（1940日治昭和15年）6月已顯陳舊。站內軌道延長為28公里，有6個月台，南北兩端各有天橋一座，售票窗口前站43個。後站7個，剪收票口前站24個，後站7個，大廳面積約500平方公尺，並有附設郵政、電信、銀行、餐旅等配何業務單位。依民國70年代後平時每日上下車旅客人數超過10萬人，遇有節日假期，每日高達17萬人左右。

  交通部於民國68年（1979）10月，成立「台北市區地下鐵路工程處」積極規劃，嗣至民國72年（1983）7月1日，設置「台北市地下鐵路工程處」由鐵路局局長兼任處長，積極推持正常營運，應先建臨時施因應，諸如：建臨時站房，切換站內股道、天橋、月台及其他種種設施後，於民國75年（1986）3月1日起，拆民國29年（1940）日人興建之台北站舊站房，從此舊站房消失走入歷史，只以圖照為見證。

臺北站為提高服務品質，不斷謀求改進各種設備，諸如：促進行車安全之號誌控制，機械聯動改善為繼電聯動集中於控制室以電腦控制行車。並為擴大服務旅客，於候車室裝設十五噸冷氣機十一台，彩色電視機一台，天橋裝設扶梯，資訊嚮導系統，改善剪收票口等等。民國73年（1984）9月15日又啟用電腦售票業務，以應日益增加業務之需，以樹立服務旅客新形象。民國50年代後，國家經濟成長，臺北市區發展迅速，人口激增，評鐵路貫穿市區，鐵路平道阻塞，險象叢生，經交通單位多年之研議評估，採行最高功能之包括臺北站納入，興建地下鐵路方案，以解決臺北市中心區交通壅塞問題。