日本留学生回国进行学历认证需要准备以下材料：
1. 毕业证书（卒業書）和毕业证明书（卒業終了証明書），这些文件通常由教授在毕业典礼上颁发，并由学校开具，证明书有效期需在3个月以内。
2. 成绩单证明书（成績証明書），由日本学校出具，通常需要提供日文和英文两份成绩单。
3. 护照原件及复印件，用于证明身份和国籍。
4. 外国人登录证原件及复印件，如果适用的话。
5. 二寸彩色证件照，用于制作认证文件。
6. 如有其他相关文件，如研究证明、学位申请书、主论文摘要、副论文题目列表等，根据具体情况可能需要提供。
认证费用通常为人民币360元，可以通过在线支付方式缴纳。
请注意，以上信息可能会根据时间和具体情况有所变化，建议在准备材料前，先访问教育部留学服务中心的官方网站或直接联系中国驻日本大使馆或日本外务省获取最新的认证要求和流程信息