杜如晦，字克明，京兆杜陵人。祖父杜果，在北周、隋朝之际有名望。杜如晦年轻时才能出众、性格豪爽，喜欢读书，以风流儒雅自诩，有临难不苟的气节，能当机立断。隋朝大业年间(605～617)，参加吏部量才授官的考核，侍郎高孝基对他的才华感到惊异，说：“您当有国家栋梁的才能，望保持美德。”委任他为滏阳尉，后弃官而去。
高祖李渊平定京城后，秦王李世民选拔杜如晦为王府兵曹参军，后改任陕州总管府长史。此时幕府的众多僚属调出迁升，秦王为此忧虑。房玄龄说：“调离的人虽多，并不足惜，如晦才是辅佐君王之才。大王若始终掌管藩镇，尚无关系；若要治理天下，舍弃如晦没有共建功业的人。”秦王警悟地说：“不是先生指明，我几乎失去他！”于是奏请朝廷将杜如晦留在幕府。杜随秦王征战，常常参与军事机密。当时政多变故，杜如晦裁决处理事情毫无滞留，同僚一致公认他的才干，无人见出他才能的限度。提升他为陕东道大行台司勋郎中，封为建平县男，兼文学馆学士。天策府建立后，他任郎中。秦王立为皇太子后，他被授职左庶子，升为兵部尚书，晋封为蔡国公，食邑三千户，另有益州食邑一千三百户。
不久，任检校郎中，代理吏部尚书，总领东宫禁军，晋位为尚书右仆射，仍兼任吏部职务。
杜如晦与房玄龄共掌朝政，举荐贤能之士，降级使用不贤者，都各得其职，当时的浩然正气令人归心甚深。监察御史陈师合呈献《拔士论》，称一个人不可统管数职，暗中讽喻杜如晦等人。太宗李世民说：“玄龄、如晦不是以有功旧臣的身份提拔的，仅因其才能参与治理天下，师合想以此离间我们君臣吗？”将陈师合贬官至岭表。
日久之后，杜如晦因病辞职，太宗诏令给他原俸禄在家养病，派来给他治病、探望的人络绎不绝。到病危时，太宗诏令皇太子前去问候，并亲自到他家。杜如晦逝世时，四十六岁。太宗哭丧时极其悲痛，追赠他为开府仪同三司衔。安葬时，加司空衔，谥号“成”。并亲笔手诏虞世南撰文刻于石碑，以便记载君主痛悼臣子之意。
某日，太宗吃瓜，瓜味甜美，便留下一半祭奠杜如晦。太宗曾赐给房玄龄黄银带，说：“如晦与您一同辅佐我，而今我只见公一人。”泫然泪下说“：相传鬼神畏惧黄银。”另取黄银带，让房玄龄送去杜家。后来太宗忽然梦见杜如晦像平素一样，次日讲给房玄龄听，派他带着皇帝的膳食前往祭奠。到杜如晦一周年的丧祭日，太宗派宫中女官慰问杜如晦的妻室子女，封地、官宅、官衔、补助亦不取消，皇帝对他家的恩惠礼遇丝毫不减。后来诏令功臣可以世袭，又追赠他密州刺史衔，封地改至莱。
在他任宰相时，天下刚刚平定，台阁制度、宪令法度，全由房、杜二人讨论决定。每次在太宗的处所商议政事，房玄龄必定说“：非如晦来不能筹划。”等杜如晦来到，又尽都采用房玄龄的计谋。因为杜如晦长于决断，而房玄龄善于谋，两人彼此十分了解，因此能够同心合谋，以辅助太宗。当时人们谈到良相，必定房、杜并称。