在职人员报考研究生时， 通常需要单位知道。以下是具体的情况和注意事项：
单位介绍信：
在职人员报考研究生报名时，必须出具单位的介绍信。没有单位的介绍信是不准许报名的。
单位同意：
在征得单位同意的情况下，才可以报考研究生。有些情况下，单位可能会在后续要求提供在职证明或签订定向协议等文件。
档案所在地：
在职人员报考研究生需要填写档案所在地信息，档案在单位的，通常需要单位盖章或提供相关证明。
政审：
考上研究生后，在复试阶段可能需要进行政审，这时单位需要开具相关证明。
保密性：
虽然有些信息在报名阶段可能保密，但一旦考上研究生，单位通常会因为需要调档、转户口等原因而知道。
综上所述，在职人员报考研究生时，单位通常需要知道，并且可能会涉及到一些后续的手续和证明。建议提前与单位沟通，确保一切顺利。