环境清幽、隐蔽性强，足以应变突发状况，是蒋介石选择行馆的共同特点。
但蒋介石行馆虽多，究其根源，几处最具代表性的住所，还是要追溯到日据时期，为迎接日本皇太子裕仁11天的“行启”行程而兴建的代表性建筑。
当时日据“台湾总督”田健治郎积极鼓吹天皇赴台“行幸”，提前数年准备，花尽人力与物力，盛大准备迎接工作，并在景区兴建多座行馆，共花费100万日元，相当现今新台币10亿元，但未料大正天皇因病无法成行，乃由摄政皇太子裕仁代行。22岁的裕仁因此于1923年4月16日在基隆登陆，成为唯一到过台湾地区的日本天皇。
田健治郎为方便裕仁休憩而修建的皇家建筑，不但精致豪华、用料讲究，造型多依当时日本流行的日洋混合风格设计。例如草山御宾馆、草山行馆；日月潭边涵碧楼扩建了8间贵宾馆作为太子行馆；阿里山祝山林道旁也修建了贵宾馆。裕仁离台后，这批贵宾馆成为日本皇族或政要到台旅游时的落脚据点。
直到台湾光复，这批平日贵宾馆连同其他各类事业单位招待所，改由国民政府驻台各单位所用，也成为日后蒋介石行馆与台湾各类景区高级招待所的主体。
至于最早一批蒋介石行馆，是在陈诚于1949年1月接任台湾省主席后，经请示蒋介石才开始准备的，共8处地点，包括澎湖两处，以及台湾本岛的台北、草山、大溪、日月潭、高雄、四重溪6个定点。由于蒋介石生活朴素，因此行馆均维持俭朴摆设，格局承接日式风格，却又有扶疏花木、绿地可供散心休憩，大致上各个行馆的内部摆设与布局颇为一致。较多的改建往往是因为宋美龄习惯西化居住、卫浴条件，所以必须稍作调整。因蒋宋作息习惯不同，通常两夫妇起居分开；也常有礼拜堂，方便笃信基督教的两人做礼拜。
从顺序来看，澎湖第一宾馆是蒋介石1949年在台海间观望，乃至决定抵台长驻的第一个据点，本是日本海军招待所。之后蒋介石从南台湾上岸，在同样接收自日本海军招待所的西子湾宾馆驻留，思考战略布局。6月间，蒋介石离开高雄北上，先后住过大溪行馆与台北草山行馆；前者是日据时期桃园公会堂，后者也是日据时期即有的贵宾馆。
一方面，从1949年到1950年中期，蒋介石四处奔波，徒劳无功，自不会有心情大兴土木。另一方面，当时蒋介石更想着能否借机会打回大陆，大力倡导“三年反攻”论点，号召来台外省军民无须置产、买地，也没心思在台湾盖新房或另辟行馆，因此沿用日据时代皇族招待所作为休憩密商场合，绝对其来有自。1950年中，蒋介石定居士林官邸，其前身也是日据时期的士林园艺试验分所。
尤其当时解放军咄咄逼人，随时有跨海一战的可能，美国人已展开撤侨行动，彻底看衰蒋介石的掌控力，台湾政局动荡，蒋介石主要利用在行馆休息或沉思时间与幕僚或重臣商议大政，做出不少重要决定，涵碧楼等地因此成为两岸与台湾历史的重要舞台。
换言之，在心态上，蒋介石还是明显的过客，虽然狼狈，他还在期望政局有奇迹出现，即便入住草山或士林官邸，不过是他在台暂居的场所，是临时为接待来访政要而兴辟的招待设施，并非想就此在台湾落地生根，也还没有出现直把他乡当故乡的无奈。
只是度过了20世纪50年代初期的动荡，靠着朝鲜战争爆发重新与美国接上线，蒋介石在台湾局面稳定下来，偏安局面已成，流亡海外的想法似乎已成明日黄花，蒋介石与亲人在各地行馆团聚共享天伦的场面，似乎越来越成为生活的重心。相较之下，各单位为招待蒋介石巡视而设的行馆也如雨后春笋般慢慢浮现，希望让蒋介石公忙之余，借散心抚慰郁闷。
如角板山、大溪等地，之所以能让蒋介石流连忘返，主要因为当地风光颇似奉化溪口，等于禁锢在台湾这座孤岛的蒋介石，借此宣怀思乡之情。虽然为因应大陆方面原子弹试爆成功，多处重点行馆都加装了反核爆装备与战时紧急指挥设施，但在美国杯葛之下，“反攻大陆”渐成口号已是不争事实，蒋介石心知肚明，只是没有说破而已。
与蒋介石根源最深的慈湖行馆，便是在此背景下应运而生。当年蒋介石路经慈湖，深觉地灵人杰，风光颇似溪口，因此主动提供图样与设计想法，仿效奉化祖屋，在桃园乡间盖起了这栋以居家为核心理念的四合院式行馆，其型式也是全台独一。或许，慈湖行馆只是反映了蒋介石内心最深的无奈，他此生再也无从重回故里，因此他才要在异乡孤岛重建故乡点滴记忆。只是没想到蒋介石去世后，此处竟成他灵柩暂厝之地。
相较于蒋介石的排场，蒋经国作风更为随和，几乎无处不可住，除鲜少为休假入住行馆，且不敢擅住蒋介石用过的房舍外，几乎没什么禁忌。例如他除代表蒋介石定期问候在台政要耆老，也受命四处巡视军队，蒋经国多半选择住现成部队营舍，不但安全防务紧密，行踪隐蔽，也无须做太多特别安排，只是各部队时常会把招待蒋介石与蒋经国的房舍空置下来，以备未来“两蒋”视察不时之需，也因此台湾各营区目前仍有不少“总统行馆”可供凭吊。