李善长，字百室，定远人。从小就喜爱读书，有智谋，熟悉法家言论，预计事情，大多被他说中。朱元璋攻取滁阳时，李善长前往迎接拜见。朱元璋知道他是此地年高有德之人，对他以礼相待，并将他留下掌管文史书籍。朱元璋曾经随意问李善长：“四方征战，何时才能平定？”李善长回答道：“秦时战乱，汉高祖起于布衣，豁达大度，知人善用，不妄杀人，五年就完成了帝业。今天元朝秩序已乱，天下已土崩瓦解。公出身濠州，离沛不远。山川之王气，公理当受之。若仿效汉高祖所为，天下便可轻易平定。”朱元璋称赞他说得有理。李善长跟随朱元璋攻下滁州，成为朱元璋的参谋，参预重大事务的谋划，主管馈赠及粮饷，可见朱元璋对他十分信任。朱元璋威名日盛，对前来归附的诸将领，李善长首先观察他们的才能，然后告诉朱元璋。又为朱元璋在诸将面前表明诚恳的态度，使双方都能安心。如果有人因事而意见不合，李善长便想方设法从中调解。郭子兴为流言所惑，疑心朱元璋，逐渐剥夺他的兵权，又想将李善长夺过去辅助自己，李善长坚决谢绝。朱元璋对他深为倚重。朱元璋驻军和阳时，自己率军前去进攻鸡笼山寨，只留少量兵力帮助李善长留守。元将探知，前来袭击，李善长设下埋伏，将元军击败，朱元璋认为他很有才能。
朱元璋获得巢湖水师后，李善长极力赞成渡江。攻克采石后，朱元璋率军直趋太平，李善长事先写下榜文，严禁士兵违反军纪。太平城被攻下，李善长马上将榜文贴在四通八达的道路上，军中秩序井然，秋毫无犯。朱元璋为太平兴国翼大元帅时，以李善长为帅府都事。不久随军攻克集庆。在将要攻取镇江时，朱元璋担心诸将约束不了部下，便佯装发怒，要惩罚他们，经李善长力救，此事才得以解决。镇江攻下之后，百姓都不知道有兵到来。朱元璋为江南行中书省平章，以李善长为参议。当时宋思颜、李梦庚、郭景祥等都为幕僚，而军机进退，赏罚章程，多由李善长决定。朱元璋改枢密院为大都督府，命李善长兼领府司马，晋升为行省参知政事。
朱元璋称吴王，授李善长为右相国。李善长通晓典故，裁决事务非常迅速，又善于辞令。朱元璋有所招纳，总是命他写成文书。朱元璋前后率军征讨，都命李善长留守，将吏顺从，居民安然，为前线将士运输兵饷、粮饷，从不缺乏。李善长曾请求专卖两淮之盐，设立茶法，都是在再三斟酌元制、去其弊端之后提出来的。恢复制钱法，开矿冶铁，制定鱼税，国家财富日益增加，百姓也不再贫困。吴元年(1367)九月，朱元璋论平吴之功，封李善长为宣国公。改官制，以左为大，以李善长为左相国。朱元璋当初渡江时，经常使用重典。有一天，他对李善长说“：法有连坐三条，不是太过分了吗？”李善长因此请求除大逆之罪外，全部去掉连坐之罪。朱元璋于是命令他与中丞刘基等裁定律令，颁示朝中内外。
朱元璋即帝位，追封自己祖先及册立后妃、太子、诸王，都由李善长担任大礼使。太祖设置东宫官属，以李善长兼太子少师，授为银青荣禄大夫、上柱国，参与决定军国大事，其他仍然如故。不久，率礼官制定郊社宗庙之礼。皇帝巡幸汴梁，李善长留守，一切事情李善长都可以不经请示灵活处理。不久，李善长上奏确定六部官制，商议官民丧服及朝贺东宫礼议，奉命监修《元史》，编写《祖训录》、《大明集礼》等书。确定天下山川神癨封号，封立诸王，爵赏功臣，事无巨细，朱元璋都委托李善长与诸儒臣商议执行。
洪武三年(1370)，大封功臣，皇帝说道“：李善长虽无汗马功劳，但跟随我多年，供给军粮，功劳很大，应当晋封大国。”于是授他为开国辅运推诚守正文臣、特进光禄大夫、左柱国、太师、中书左丞相，封为韩国公，年禄四千石，子孙世袭。并授予铁券，免李善长二死，其子免一死。当时被封公者，有徐达、常遇春之子常茂、李文忠、冯胜、邓愈及李善长六人，李善长位列第一，诏书中将他比作萧何，对他褒奖备至。
李善长外表宽厚温和，内心却爱嫉妒，待人苛刻。参议李饮冰、杨希圣，只是稍微侵犯了他的权限，李善长马上将其罪上奏皇上，黜免了他们两人。李善长与中丞刘基争论法令，以至于辱骂刘基，刘基心中不安，便告假回家。太祖所任用的张昶、杨宪、汪广洋、胡惟庸都获罪，而李善长却依附太祖如故。富贵已极之后，李善长便逐渐志骄意满，太祖开始有点讨厌他。洪武四年，李善长因病辞官归居，太祖赐临濠地若干顷，设置守坟户一百五十家，赐给佃户一千五百家，仪仗士二十家。一年后，李善长病愈，太祖便命他负责修建临濠宫殿，将江南富民十四万迁徙濠州耕种，让李善长管理他们，留在濠州数年。七年，太祖提升李善长之弟李存义为太仆丞，李存义之子李伸、李佑都为群牧所官。九年，太祖以临安公主下嫁其子李祺，授为驸马都尉。初定婚礼，公主严修妇道。李家受宠显赫，时人极为羡慕。李祺与公主结婚一个月后，御史大夫汪广洋、陈宁上疏说：“李善长恃宠自纵，陛下因病几乎十日不能上朝，他不来问候。驸马都尉李祺也六日不来朝见，召他至殿前，又不认罪，这是对陛下极大的不敬。”李善长因此获罪，被削年禄一千八百石。不久，太祖又命李善长与曹国公李文忠一起统领中书省、大都督府、御史台，同议军国大事，监督圆丘之工。
丞相胡惟庸当初任宁国知县，因为李善长的推荐，又被提升为太常少卿，后任丞相，两人因此互相往来。而李善长的弟弟李存义之子李佑，又是胡惟庸的侄女婿。十三年，胡惟庸因谋反被诛，被牵连处死者甚多，李善长仍然如故。御史台缺中丞，李善长暂理御史台事务，多次向太祖提出建议。十八年，有人告发李存义父子实为胡惟庸的党羽，太祖下诏免死，将他们安置在崇明，李善长没有表示感谢，太祖因此怀恨在心。又过了五年，李善长已经七十七岁，因年老约束不了部下。曾想建造府宅，从信国公汤和那里借卫士三百人，汤和悄悄告诉他所听到的事。四月，京城有百姓受牵累迁徙边疆，李善长屡次请求赦免其亲戚丁斌等。太祖大怒，将丁斌治罪。丁斌以前是胡惟庸家的给事，他供出李存义等过去与胡惟庸互相交往的情形。于是太祖下令将李存义父子逮捕审讯，他们的供词牵连到李善长，供词上说：“胡惟庸企图谋反，派李存义暗地里劝说李善长。李善长惊叱道‘：你这么说到底为了什么？你们一定要慎重，否则九族都要被灭。’不久，又派李善长的老友杨文裕去劝他说：‘事成之后，当以淮西之地封你为王。’李善长惊骇不已，仍不同意，却又颇为心动。胡惟庸于是亲自去劝说李善长，仍然不同意。过了一段时间后，胡惟庸又派李存义去劝说，李善长叹道：‘我已经老了。我死后，你们好自为之。’”有人又告发李善长说：“将军蓝玉率军出塞，到捕鱼儿海时，俘获胡惟庸私通沙漠使者封绩，李善长却匿而不报。”于是，御史竞相上奏弹劾李善长。而李善长的奴仆卢仲谦等，也告发李善长与胡惟庸之间互相贿赠，经常偷偷私语。证据确凿，说李善长虽是元勋国戚，知道有叛逆阴谋却不揭发检举，而是徘徊观望，心怀两端，大逆不道。当时正好有人说将要发生星变，会有灾祸发生，占卜的结果是灾祸应当降临在大臣身上。于是，太祖便连同其妻女弟侄等全家七十余人一并处死。吉安侯陆仲亨、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、荥阳侯郑遇春、宜春侯黄彬、河南侯陆聚等人，都同时受胡惟庸牵连而死。不久，被牵连的还有已故的营阳侯杨王景、济宁侯顾时等若干人。太祖亲自下诏罗列他们的罪状，加在狱辞里面，纂成《昭示奸党三录》，布告天下。李善长之子李祺与公主被迁徙至江浦，过了一段时间后死去。李祺之子李芳、李茂，因公主之恩未被牵累判罪。李芳任留守中卫指挥，李茂任旗手卫镇抚，但被取消世袭的权利。
李善长死后第二年，虞部郎中王国用上奏说道：“李善长与陛下同心，出生入死打天下，勋臣位列第一，生前封公，死后封王，儿娶公主，亲戚拜官，他作为人臣，名份已经到了极点。即使他想自图不轨，尚且未曾可知，而今说他想帮助胡惟庸谋反，则是极为荒谬，大错特错了。人们疼爱自己的亲生儿子，一定胜于兄弟之子，已经安享万全之富贵的人，一定不会去想侥幸获得万一之富贵，这是人之常情。李善长与胡惟庸，仍然只是儿女亲戚，而对于陛下则像对子女一样的亲近。假使李善长帮助胡惟庸谋反成功，也不过是位列勋臣第一而已，太师、国公、封王而已，娶公主、纳王妃而已，难道还会胜于今日吗？而且李善长难道不明白天下是不能侥幸取得的吗？元朝末年，欲取天下者无限，却都莫不为此粉身碎骨，覆宗绝祀，能保全自己脑袋的有几个人呢？李善长自己也亲眼所见，为什么还要在衰倦之年去重蹈覆辙呢？凡是去这么做的必然有深仇大恨促使着他，在大势已去的情况下，父子之间可能会相互扶持以求逃脱灾祸。而现在李善长之子李祺与陛下有骨肉之亲，没有丝毫芥蒂，他何苦突然这么去做呢？如果说天象告变，大臣受灾，杀了他以应天象，则陛下更加不能这样做。臣惟恐天下百姓听说之后，会说像李善长这样的有功之臣尚且得到了如此下场，国家也会因此而分崩瓦解啊。现在李善长已死，再说无益，但愿陛下将此作为将来的教训。”太祖收到此信后，竟也没有加罪王国用。