从秦至隋创立四个大一统王朝的君主：秦始皇、汉高祖、晋武帝、隋文帝，在知名度上，是前二者响亮，然在历史评价中，当数隋文帝最高。不仅如此，即使在中国历代开国君主中，隋文帝也可以名列前茅。
隋文帝于历史是有大功绩的，他的大功绩不但表现在统一大业上，且表现在统一后对天下的治理。
历史对隋文帝形象的记录是，性格庄重严肃，不苟言笑，即使至亲也从不开玩笑，外表钝木而内里明敏，有雄才大略。
作为一个政治家，他有难能可贵的俭德，这种俭德非但表里如一，且贯穿始终。他在北周官居高位，私人生活却非常俭朴，俭朴到几乎有些寒酸的地步，做了一人之下万人之上的辅弼大臣，依然如此，并把俭朴倡导为全朝的风气。他的俭朴，不是自我标榜的伪饰，不是映照鲜卑贵族奢侈的权宜之计，而是贯穿始终的本质，在成为万乘之尊后，更是予以发扬光大。
隋文帝以“成由俭、败由奢”为座右铭，曾对杨勇说：“我闻天道无亲，唯德是兴，历观前代帝王，未有奢华而得长久者。”
隋文帝的内宫，可能是历朝最简陋的内宫，后妃宫女的衣服及日常器具，均有严格的供应制度，不得逾越私取半毫，若有破损，加以补缀再用。他本人的饮食，简单得不能再简单，除了必须的宴会，每餐至多一小盆肉。他本人的寝宫，全是布幔布帐。他摈弃金玉，摈弃锦绣，摈弃所有的器玩。相州刺史豆卢通进献斑斓的绸绫，他下令当殿焚毁，以此阻绝各等官员各种名目的进献。《隋书·文帝纪》说：“帝令行禁止，上下化之。”
隋文帝杨坚在位期间，颁行《开皇律》，改革官制，推行均田。（[唐]阎立本绘）
在隋文帝君临天下的时代，上自大臣贵族，下至富商大贾，穿的不过是布帛，装饰的不过是铜铁骨角，俭朴蔚然成风。
以俭朴为立国之道，在于隋文帝深刻体察到，国家的主要财政来源是农业，而农业每年的产值是有限的，要让农民安居乐业（农民安居乐业，才能保证社会秩序的稳定），惟有将对农民的剥夺压到最低限度。俭朴的风气，可减少用度，缩小无谓的消费，使有限的农业产出，维持社会最基本的生活。隋文帝懂得民众才是国家的根本，要想保住社稷江山，当充分考虑到农民的利益。他即位之初，就将五千头官牛分赐给贫苦的农民，后来又多次推出降低税役、轻徭薄赋、宽恤民力的政令。
以民为本，与民休息，使隋朝在立国后与统一后，迅速受到了民众的拥戴。
人是复杂的，是多面的，俭朴的隋文帝也有奢侈的倾向，只是被他深深地压抑着。北周首都设在长安（今陕西西安），由于长期的战争，都城已凋敝不堪，出于新朝万物更新的感觉，隋文帝决定在长安另外择地营筑新都，名为大兴城。营筑新都城花了不少的工役钱财，但为了帝国的形象，无可厚非。在开皇十三年（公元593年），他又下令在岐州（今陕西凤翔）造仁寿宫。仁寿宫的工程由杨素负责。杨素为讨得隋文帝的欢心，大发役夫，削山填谷。劳工的待遇是非人的，在棍棒的催逼下，万余人死于非命，工地上一片惨象。隋文帝知悉此事后，很是不悦。然当他游览新宫时，却为豪华气象笑逐颜开，直夸杨素是忠臣。开皇十八年（公元598年）又大兴土木，从京城到仁寿宫之间，连置十二行宫，所耗费的人力物力是可想而知的。俭朴是难的，难在要克服追求享乐的欲望，努力克制这种欲望的隋文帝稍一松懈，便为佞臣所误，违背了他信守的初衷。
不遗余力地勤政，是隋文帝为君的特色。他每日坚持上朝，听取各级的奏报，甚至日落西山，仍精神不减地端坐着。有暇时，乘舆四出访问，途中遇见上表者，便停下来，亲自仔细询问，极有耐心。另外还派遣行人（特别的使者），去各地采听风俗。由此，官场的得失，民间的疾苦，帝国的现状，尽在他的掌握之中。
勤政，使隋文帝成为明君。
出自真心地亲民，是隋文帝另一个为君的特色。关中闹饥荒，他派人前去了解百姓的饮食情况，有人带来百姓所吃的豆屑杂糠，他涕泪俱下，遍示群臣，沉痛地自我咎责，为惩罚自己，他撤去御膳，不近酒肉达一月。到泰山封禅，道中遇大量关中饥民往洛阳就食，车队行进困难，他关照警卫部队不得驱逐，从而出现了这样的奇观，饥民与御仗混同而行。他骑着马，见有扶老携幼者，或引马让路，或为之安慰。经艰险之地，令左右帮扶百姓。
亲民，使隋文帝深得人心。
中国政治道统，历来分两大体系：一是儒家的以德化天下，一是法家的以刑格天下。
隋文帝对待政治道统的态度，是兼容并蓄，他强调以儒家提倡的德来治国，不仅身为表率，且要求臣下、民众均得培养谦让节俭的美德；然与此同时，他却厌恶儒家的诗书，废除学校，实行愚民政治。
他相当偏爱法家法、术、势三位一体的理论，以势立自己的权威，以术驾驭群臣，以法对违法现象矫枉过正。从而，他是喜怒无常的、随心所欲的、变幻莫测的，以此不让朝臣熟悉他、窥破他。为明察群臣，派左右心腹到处打探，官员即使犯有小过失，他也必不轻饶，量以重罪。为考察官吏是否贪污受贿，他暗地派人送去钱帛，一旦有受者，即处以死刑。他常当殿杖责他所不满之人，有时一日竟达四次之多，怒气特盛时，便不顾青红皂白地推出斩首。他明令：盗军粮一升以上者，处死，家属没官；盗一钱以上者，处死，知情不报者连坐，同样处死。武库脏乱，他亲自临决，将有关人员处死数十人。
隋文帝用严刑的目的，是为了防止官场发生腐败，防止官吏不尽职守，防止犯罪现象在民间蔓延。然他弃法律而不顾，仅凭自己的好恶主观来草菅人命，从而制造了恐怖气氛。
用刑过滥，不遵法律准绳的隋文帝有暴君之嫌。
隋文帝未能汲取秦始皇暴政导致二世而亡的教训，他滥用刑法为隋炀帝的胡作非为提供了基础。隋朝的二世而亡，隋文帝难辞其咎。
《隋书·文帝纪》的末后有这样一段话，说隋文帝“天性沉猜，素无学术，好为小数，不达大体，故忠臣义士莫得尽心竭辞。其草创元勋及有功诸将，诛夷罪退，罕有存者”。是的，隋文帝与曹操等一些雄才大略的君主一样，都有好猜忌的毛病，他们夺人政权，待自己获得政权，又怕他人仿效他们。故而，对追随他们谋取天下的功臣与将领，始终放心不下，一有风吹草动，不管是事出有因，还是空穴来风，或解除他们的权位，或将他们打入囹圄，或把他们置于死地，情愿错置错关错杀，而决不姑息。
隋文帝只能同患难、不能共富贵的行为，使许多正直有良知的元老重臣被逐出了中央权力核心，以致在他身后缺乏一种制约隋炀帝奢欲的有效力量。他像后来的朱元璋一样，为儿子拔去了他认为的权杖上所谓的棘刺。但他自以为是的做法，不仅没有收到预期的效果，反而南辕北辙，使隋朝成了历史上最短命的王朝之一。
中国的王朝是家天下，家天下是按宗法制度父子相传，因而，一个君主是否能选择到能付以大任的接班人，是保证基业绵延长久的关键。隋文帝在这方面，铸下了不可弥补的大错，强行抛弃嫡长制的传统继承制，舍弃生性较为仁厚、不会作假的长子杨勇，而被巧言令色、善于伪装自己的次子杨广所迷惑，立了后者为太子，结果，社稷的继承人成了社稷的掘墓人。
最早对隋文帝做出整体评价的，根据《旧唐书·太宗纪》的记载，是在唐贞观初期。当时面对唐太宗的询问：“隋文帝何等主？”大臣房玄龄、萧瑀的回答是：“克己复礼，勤劳思政，每一坐朝，或至日仄。五品已上，引之论事，宿卫之人，传飧而食。虽非性体仁明，亦励精之主也。”
瑕不掩瑜，总而言之，隋文帝还是功大于过。
隋文帝驾崩于仁寿四年（公元604年）。有关他的死，许多人认为是杨广的谋弑，并举出了事实加以证实。