朱元璋杀掉了胡惟庸，废除了丞相制度，但他并没有罢手，他的眼睛又转向了掌握军权的大都督府。当时掌管都督军权的正是他的外甥李文忠，事实证明，在不信任大臣这一点上，对自己的亲属，他也一视同仁。他改组了大都督府，把这个军事机构分成左、中、右、前、后五部分，至于原来的统帅李文忠，他也没有放过。

由于李文忠曾经指责过他滥杀无辜，而且触怒过朱元璋，朱元璋决定送佛送上天，连李文忠一起杀掉。就在他准备动手的时候，马皇后站出来阻止了他，求他看在李文忠立有大功的份上，留他一条命。朱元璋从不卖别人的面子，但马皇后与他共过患难，深意重，于是他听从了劝告，放过了李文忠，但仍严厉处罚了他，并削去了他的职位。

处罚李文忠并不是一个单独事件，它有着更深刻的含义。这件事告诉所有的大臣，朱元璋在剪除异己这个问题上是有着大义灭亲的精神的，无人可以例外。

胡惟庸案件牵涉的人越来越多，在某种程度上已经演变为屠杀。那些办案的官吏们手持名单，到各个衙门去找人，找到就抓，抓回就打，然后供，再根据供得到的名单去抓人。这些**力极大，即使衙门正在办公，他们也能公然闯入，抓走所谓的犯人。从而导致了很滑稽的现象，往往官老爷刚刚还在堂上威风凛凛的断案，这些人一进门，就把那位仁兄从堂上拉下来拷上枷锁带走。下面的犯人也看得目瞪口呆。

侦办此案的线索来源主要是两个部门，一个叫亲军督尉府，大家可能对这个名称并不熟悉，但要说到它后来的名字，那可是无人不知，无人不晓——锦衣卫。

另一个其实并不能称为部门，而只能叫群体，这个群体的名字叫检校。他们没有固定的编制，全部直接向朱元璋报告探听到的各种况。他们是朱元璋最主要的耳目。这些人晚上不睡觉，到处转悠，从史料来看，他们的窃听和跟踪手法十分高明。比如国子监祭酒宋讷有一天上朝，朱元璋问他为什么昨天晚上不高兴，宋讷大吃一惊。朱元璋拿出一幅画，正是宋讷昨夜生气表的画像。

这真是让人毛骨悚然，要知道宋讷并不是睡在街上的，他在自己家里生气，这些检校不但一直在监视他，还居然饶有兴致的把他生气的样子画了下来，大家可以想象一下，在没有照相机的当年，深更半夜，你坐在自家房里，居然就在离你不远处（很有可能就在你家），有人正在一边看着你，一边帮你画像。这种节在现代恐怖片中倒是经常出现。

这些检校的来源也很复杂，主要都是些社会闲散人员，也有文武官员，甚至还有朱元璋的老相识——和尚。这些人互相不认识，只受朱元璋调遣。

这些人无孔不入，捕风捉影，制造了很多冤案，正是有了这些人的帮助，朱元璋在胡惟庸案件的办理上越来越得心应手，杀人越来越多。

官员们惶惶不可终日，牵涉的人也越来越多，甚至连已经退休的人也被抓回来，其中最著名的就是宋濂。

宋濂是朱元璋手下著名的文臣，也是一位优秀的学者，他是刘基的老乡，被朱元璋委派了一个重要的任务，当太子朱标的老师。他完美的完成了这个任务，在他的教导下，朱标和他老子朱元璋完全不同，为人宽厚仁慈，甚有明君之状，后来他又被委以修元史的任务，担任总裁官。

但朱元璋并不看重他，在朱元璋的心中，宋濂只是一个文人，写点文章还行，并不能出谋划策，所以他授予宋濂的最高官职只是小小的翰林学士（五品）。直到洪武十年（1377）宋濂退休，他的官职还只是学士。

朱元璋虽然没有重用宋濂，却相当信任他，这在很大原因上是由于宋濂的个。宋濂是出名的老实人，无论什么事，从来都是实话实说。朱元璋曾经感叹过：宋濂侍候我二十年，没有说过一句假话，也没有说过别人一句坏话，真是一个贤人啊。