要去除石材表面的灰层，可以采用以下方法：
使用专业的大理石清洗剂
这种清洗剂能够渗透进入碳酸类石材如大理石、石灰石、白云石、蛇纹石等的微孔中，有效清除茶渍、咖啡、草黄等多种黄斑和污斑，同时不损伤石材表面光泽，也不会在石材内部残留色素。
清洗步骤包括：
1. 先清除石材表面的灰尘和脏物；
2. 将稀释后的清洗剂涂刷或喷洒在黄斑和污迹表面，用白色纯棉布或白色卫生纸等吸水材料紧贴在石面上，补加清洗剂使其完全湿透；
3. 在大理石上覆上塑料薄膜，以维持清洁剂的作用时间；
4. 大约24小时后揭去塑料薄膜和贴覆的布或纸，用清水擦洗数次；
5. 若黄渍未能全面去除，可按上述方法重复做一次。
使用瓷砖清洁剂
对于大理石上的锅底灰，可以使用毛巾或抹布沾点瓷砖清洁剂来擦拭，或者用盐酸兑水后擦拭。
使用生物水泥清洗剂
如果石材被水泥污染，建议使用与大理石的碳酸钙成分不反应的清洗剂，如生物水泥清洗剂。
使用方法包括：
1. 对一般性的水泥灰，可用抹布沾上生物水泥清洗剂直接擦抹大理石，然后湿抹布再抹去大理石表面粘附的清洗剂即可；
2. 对于大理石表面水泥层比较厚一些的，可采用生物水泥清洗剂直接喷淋，等待一定时间，待大理石表面水泥被软化，再用水冲洗或用布抹去，用布抹去的，需用干净湿布在抹一遍。
物理方法
可以用经过燃烧并淋湿的木炭来擦洗，效果也很好。
建议根据石材的具体污染情况和表面材质选择合适的清洗方法。对于较严重的污渍，可以多次重复清洗步骤，以确保彻底去除。清洗完成后，建议使用石材防护剂进行防护，以延长石材的使用寿命并保持其光泽。