胡惟庸眼見徐達(dá)去世，為自保于是千方百計(jì)地拉攏因犯法受朱元璋譴責(zé)的吉安侯陸仲亨、平?jīng)龊钯M(fèi)聚，令其在外收集軍馬，以圖謀反。胡惟庸造反之初，曾多次想拉李善長下水，李善長不從，胡惟庸便拉李善長的弟弟勸說李善長。時間長了，李善長不免生厭，終于說了一句“吾老矣，吾死，汝等自為之”的不慎之言。

　　此言被李善長府里的下人聽了去。胡惟庸此外，他還勾結(jié)中丞涂節(jié)、御史大夫陳寧等，令陳寧坐中書省閱天下兵馬籍。這一切引起朱元璋的極大注意，這讓生性多疑的朱元璋察覺到了胡惟庸意圖謀反。

　　于是，洪武十三年正月初七，朝堂之上的朱元璋為了加強(qiáng)中央集權(quán)，就以胡惟庸謀反為罪名，左丞相胡惟庸和御史大夫陳寧，在大明帝國的首都南京被當(dāng)眾凌遲處死，并夷滅九族。朱元璋從胡惟庸案和元亡的教訓(xùn)中，深感臣下權(quán)力太大，亦會導(dǎo)致元末“宰相專權(quán)”、“臣操威福”的局面重演，于是對滿朝文武大臣們宣布，從此革除中書省，提升六部，以六部尚書直接對皇帝本人上奏。

　　六部奏事關(guān)閉中書省，進(jìn)一步削弱了中書省權(quán)力。朱元璋還告誡皇子們此后不可設(shè)立宰相一職。于是，這個胡惟庸也成為了歷史上的最后一位宰相，因而中國歷史上最后一位宰相就此畫上句號。