“尚方”是专门为皇室制造刀剑兵器和珍服器玩的机构，秦已有之，汉负盛名。由于“尚方”所制的宝剑，锋锐无比，利可斩马，所以又被称为“斩马剑”。中国古代非常重视礼法，由于尚方制剑只能由皇室使用，所以这种宝剑从产生之初就被赋予了皇权和特权。

“尚方宝剑”的称谓起源于西汉成帝时，根据《汉书·朱云传》记载，直言敢谏的大臣朱云恳请皇帝赐给他一把“尚方斩马剑”，用以诛杀皇帝的老师安昌侯张禹。结果事与愿违朱云不但没有得到“尚方宝剑”，反而差点丢了性命，这就是历史上著名的“折槛朱云”的故事。在汉以后的几个朝代中，用“尚方宝剑”诛杀奸臣贼子仍然只是人们心目中的美好愿望。

以尚方剑为名，象征专断权力，并有隆重的授剑仪式开始于元代。据《宋史》记载，在忽必烈时，道士张留孙以神道治愈了皇后的病，“帝后大悦，命尚方铸宝剑以赐”。此时的“尚方宝剑”只是皇家赏赐荣誉的象征，好比当今的勋章，还没有被用于审判案件当中。

建立尚方宝剑制度，并赋予以专断、专杀和便宜行事的权力，开始于明朝万历。据《明史》记载，万历20年，宁夏叛乱，万历皇帝先后赐总督魏学曾、巡抚叶梦熊尚方剑督战，结果战胜。自此赐尚方剑，授予专断、专杀和便宜行事权力做法开始逐渐频繁起来。

不过历史上确实有用尚方宝剑杀人的案例，崇祯皇帝登基，亲自召见袁崇焕咨询平定辽东政策方针，并亲手将尚方宝剑放到袁督师手中，授予他独断专行权力，袁崇焕来到辽东后用它斩杀了有称霸野心的皮岛都督毛文龙。

纵观历史，在汉唐宋元以及明前期，“尚方宝剑”只是人民想象中的象征物，在明朝中后期，才成为现实中的一种制度。真实的包青天生活在宋朝，是不可能有“尚方宝剑”的。