河南洛阳邙山上冢垒嵯峨，几无卧牛之地，地下随葬品埋藏极为丰富。郑和七次下西洋后，中国的古文物和精美的工艺品，为西方商人所看重，“不惜重金，购于黑市”。由于偷挖古墓中明器的需要，洛阳的凹形探铲，明代中叶即流传于民间。
　　此后，洛阳铲为后人逐渐改进。最早广泛使用的地方自然是盗墓，而今则成为考古学工具。著名的考古学家卫聚贤在1928年目睹盗墓者使用洛阳铲的情景后，便运用于考古钻探，在中国著名的殷墟、偃师商城等古城址的发掘过程中，发挥了重要作用。如今，学会使用洛阳铲来辨别土质，是每一个考古工作者的基本功。
　　20世纪50年代，洛阳成为重点建设城市。工厂选址常遇到古墓，以机器钻探取样，费时费工，于是工程施工人员就利用这种凹形探铲，准确地探测出千余座古墓。之后这种凹形探铲推广到全国，并很快传到东欧和亚非各国，洛阳铲从此驰名中外。
　　如今，洛阳铲是中国考古钻探工具的象征。20世纪70年代初，中国考古代表团访问阿尔巴尼亚时，曾赠送一把打造精致的洛阳铲。
　　另有一种说法：
　　洛阳铲据传为中国河南洛阳附近农村的盗墓者李鸭子于20世纪初发明。1923年前后，马坡村村民李鸭子来到他家附近一个叫孟津的地方赶集，转了一会儿，他便蹲在路边休息。李鸭子平日里以盗墓为生，所以他经常想的也是有关盗墓的问题。这时，他看到离他不远的地方有一个包子铺，卖包子的人正准备在地上打一个小洞，他在地上打洞的工具引起了李鸭子的兴趣。因为他看到，这个东西每往地下戳一下，就能带起很多土。盗墓经验丰富的李鸭子马上意识到，这东西要比平时使用的铁锨更容易探到古墓，于是他受到启发，比照着那个工具做了个纸样，找到一个铁匠照纸样做了实物，第一把洛阳铲就这样诞生了。