于是在洪武二十年（公元1387年）的时候，朱元璋下令将锦衣卫内的刑具全部焚毁，将锦衣卫内囚犯全部移交给刑部处理。到了洪武二十六年（公元1393年）的时候，朱元璋更是进一步规定一切案子都要经过司法部门（刑部、都察院、大理寺等）处理，锦衣卫不得擅自做主，这就进一步削弱了锦衣卫的权力，甚至可以说使得锦衣卫元气大伤。原来锦衣卫既可以抓人，又可以审人，结果到了现在锦衣卫只能抓人，并且抓了人之后不能审理，由刑部、都察院、大理寺等专门的法司机构来审理。这样一来，锦衣卫和衙门里的捕快没有什么区别。
自此以后，锦衣卫在洪武一朝的政治上开始衰落，逐渐淡出政治舞台。事实上，朱元璋之所以选在洪武二十六年（公元1393年）大力打压锦衣卫，原因便是朱元璋的政治目标基本上已经实现。洪武二十六年（公元1393年）蓝玉案爆发，同年蓝玉案结束，朱元璋利用此次事件，基本上把他认为会威胁到老朱家天下的大臣们屠戮一空，同时皇权至高无上的地位也已经得到真正的确立。但是朱元璋也明白，随着洪武四大案的接连发生，手下的大臣们难免会有怨言和不满，如果不让他们发泄出来的话，可能也会产生不良影响。正好锦衣卫都参与了四大案，这时将他们推出去当替罪羊是最好不过的，就这样锦衣卫成了“飞鸟尽，良弓藏；狡兔死，走狗烹。”等到了建文朝的时候，由于建文帝崇信儒家礼法，大力减轻刑罚，导致锦衣卫更是彻底被闲置起来了，基本上不再参与政治活动了。