金山是上海成陆年代最早，也是最早有人类活动的地区之一。早在距今6000年前的马家浜文化时期，已有先民在今查山东麓定居。据了解，全上海除了金山的查山以外，还有马家浜文化分布的就是青浦的福泉山和崧泽，称查山是上海最早的“居民小区”之一也不为过吧！
查山是因为唐代一位叫查玉成的道士，在此采药炼丹并得道成仙而得名，留有炼丹室、浴丹井等史迹。查山又被称为赭山、遮山。明崇祯二年（1629年），翰林院庶吉士曹勋在《重修仁寿庵记》中记载了赭山、遮山、查山的由来：“相传查山者，祖龙涉秦望山视海，见惊波怒涛，尽为此中树所遮隐，赭其山，因名赭山。或曰，海水不时至，啮民庐产，而兹山若为屏障，故亦云遮山。后查玉成采药于此，亦成仙去，遂名查山，而前二名俱废。”也就是说秦始皇登临秦望山（在今张堰境内）时，向南眺望，曾被这座山上的茂林所遮住。笔者曾有幸攀登秦望山，如今向南眺望，视野开阔，确实往东南方向只有查山一座山头而已。
查山历经数千年开发，山体高度、体量较秦代有所缩减。但往南方向如果要论遮挡，那肯定是遮挡住了秦始皇想看的东西，不然不会被历史记载下来。当年秦始皇新建的海盐县城，以及沿海大规模的海盐生产，应该就是在查山的东南方向，以至于秦始皇虽然登临秦望山，但看不见最想要看的东西，心生失望，因此才会有“遮山”一说。
至于金山滨海地区，易受海侵潮灾，查山可为屏障，保护民众不受水淹，确也是实情。宋代楼钥所撰华亭县《南四乡记》就曾指出“云间、胥浦、仙山、白砂四乡荡为巨壑”，也显示了金山滨海地区自然灾害频发。宋代仙山乡所指向的“仙山”就是查山。
有关查山的典故还有很多，比如查山是上海地区老虎出没比较频繁的地区，历代多有文人吟咏，老虎也成为歌咏查山的必备意象之一。宋代著名诗人范成大有诗云：“涧下草香疑可饵，林间虎伏试教呼。”元代诗人王逢《游查山登虚翠阁》诗云：“中宵龙甲雨，三日虎蹄涔。”元代张宪《井丁丹房》诗云：“铅田虎下飞红电，汞海龙沉结紫泥。”元代陶宗仪《游查山分韵得日字》则更加直白地提醒：“快行莫迟迟，猛虎嗥落日。”说明老虎就在查山一带活动，天快黑了要加紧赶路。
查山地灵人杰，孕育了明代著名书法家沈度、沈粲兄弟，人称“大小学士”，沈度更被明成祖朱棣誉为“我朝羲之”。另外值得一提的是，民国时姚光分别在1923年、1932年两度保护过查山这座历史文化名山。1932年修建沪杭公路，有关部门计划就近取石，以姚光为首的地方士绅多方奔走呼吁，最终只划出部分开采，其余永为保存。也可以说，如果没有姚光对查山史迹的呼吁保护，查山很可能就会被开挖殆尽，这样后来也不会发现查山古文化遗址，上海最早的居民区就会再少一处！
回顾历史感慨万千，历史的机缘可能不经意间会擦肩而过，作为今人，我们又有什么理由不珍视祖先留给我们的文化遗产呢？