在黄山上有这样一块石头，如图，大家可以看到，这块石头很像是被人劈成两半的，只不过没有完全劈断，切面很平整。传说，这块石头是明太祖朱元璋劈开的。
那时，朱元璋与陈友谅在鄱阳湖东南打了一仗，朱元璋大败而归，逃到黄山，陈友谅在朱元璋后面穷追不舍，并下令活捉朱元璋。朱元璋在黄山东躲西藏，后来还遇见了一位大美人。
这位大美人不是别人，正是陈友谅的宠姬 娄姬。娄姬美若天仙，陈友谅和朱元璋大战，她也随军且来到了黄山。黄山的风景壮阔，娄姬一到这里就非常喜欢，她告诉陈友谅自己想去周围游览一番，于是带着几个婢女和侍卫就出发了。
娄姬人比花娇，本是想走到悬崖边看风景，没想到脚下一滑，差点落下悬崖，幸好朱元璋在这附近，看到之后就飞身而出，把娄姬抱到了马背上。等娄姬回过神来，才发现救了自己一命的竟然是朱元璋，她赶紧下了马，并对朱元璋说： 你怎么还不逃？ 朱元璋说： 正在逃呢，也不知逃不逃的过。 娄姬鼓励朱元璋，让他保命要紧赶紧逃，朱元璋听从了她的建议，转身就想骑马逃走。
可是他一转身就被一块巨石挡住了去路，朱元璋抽出剑，口中念念有词： 老天保佑，若是我能逃过这次劫难，将来也能收了这美人，那就让我劈开面前这块巨石吧！ 话音一落，他就举起剑劈向了那块大石头。神奇的是，朱元璋一劈，那
石头就裂开了，最后就成了我们现在看到的这个样子。
朱元璋离开以后，重整了队伍，重新制定对付陈友谅的办法，最终消灭了陈友谅，建立了明朝，当上了皇帝。陈友谅的宠姬娄姬被朱元璋占为己有，他也算是完成了当年抱得美人归的愿望。
当然了，这只是众多说法的其中一种而已，还有说法称，朱元璋是被元军打败逃了出来，走到巨石旁的时候，朱元璋情绪爆发，悲愤的举起剑劈开了巨石，还发誓此生不灭了元朝誓不为人。石头上的 试剑石 三个字是明代左司马汪道昆后来刻上去的。
中国地大物博，历史源远流长，试剑石也不止朱元璋这一块，还有徐州的刘邦试剑石、南安郑成功试剑石、永安杨八妹试剑石、安徽安庆的鲁肃试剑石、镇江北固山刘备试剑石、广西桂林伏波山马援试剑石、江苏连云港石棚山的刘备试剑石、云南八哥岩李恢试剑石、山西宁武赵武灵王试剑石、苏州虎丘试剑石、泉州辋川试剑石。