朱元璋毅然废除了丞相制度，暴露出他蓄谋已久的真实想法。
李善长的弟弟李存义虽然和胡惟庸有姻亲的关系，但是，并没有把李善长牵连进来，只是贬斥了李存义而已，但是，李善长不知是什么缘故居然没有谢恩，这让朱元璋老大的不快活，联系到洪武初年李善长的种种骄横的做法，朱元璋准备对李善长动手了。
对付李善长这样的功臣第一，自然不能向对付胡惟庸那样简单，偏偏李善长因为建造府邸的缘故向汤和借了三百人使用，让汤和给告发了，善长又给丁斌求情，这让朱元璋抓住了把柄，用严酷的刑讯逼供丁斌，得出了李存义奉了胡惟庸的口信请李善长加入谋反同盟的所谓的证据，还有李善长不举报胡惟庸交通倭寇的旁证，总之，一个家奴居然把主人在密室内说的话都举到了御前。
朱元璋这样才从容的下命令说：善长元勋国戚，知逆谋不发举，狐疑观望怀两端，大逆不道。然而，还是不杀善长，直到有司说星变，需要杀大臣消灾，于是，善长为了朱元璋做了最后一次贡献，全家七十多口人同时被杀，李善长时年已经是七十七岁的人了，赐死给予全尸，算是朱元璋对这位开国辅运推诚守正文臣、特进光禄大夫、左柱国、太师、中书左丞相，封韩国公，岁禄四千石，子孙世袭。予铁券，免二死，子免一死的“与陛下同心，出万死以取天下，勋臣第一，生封公，死封王，男尚公主，亲戚拜官，人臣之分极矣”的多次称之为“赛萧何”的最大的功臣的酬劳。
李善长冤死之后，郎中王国用上表抗言，以朱元璋的暴烈的性格也竟然是理屈词穷，无言以对。
胡惟庸一案标志着淮西集团文官势力的基本铲除殆尽。下面的目标就是武将势力了。
明初武将的首领是徐达、常遇春，洪武三年之后，经常统兵在外，剿灭北元势力的也就是徐达、李文忠、邓愈、汤和、冯胜等人，洪武十八年，徐达、李文忠死后，克靖沙漠的基本就是冯胜、傅友德、蓝玉三人了。其中，蓝玉成为明太祖朱元璋晚年的军事上的主要助手，朱元璋把他比作卫青，可见，信任之专，宠遇之隆。然而，也就是因为这个开平王常遇春的内弟、淮西集团军事首领，在朱元璋临死前的几年中，竟然掀起了一起比之胡惟庸一案更大的政治谋杀案。原因自然是比较复杂的。
蓝玉本人，史称：“饶勇略，有大将才。中山、开平既没，数总大军，多立功。”特别是在洪武二十一年，蓝玉大败元军于捕鱼儿海，“杀太尉蛮子等，
降其众。元主与太子天保
…。。