“留学生”这一称谓最早是由日本人创造的。其由来可以追溯到隋唐时期，与“遣隋使”和“遣唐使”密切相关。在隋唐时期，中国文学艺术、宗教和科技等方面都达到了空前的繁荣，吸引了海外诸国纷纷派遣使团来华学习。公元608年，日本派遣了包括学生在内的使团来到中国学习，这些学生被认为是“留学生”的最早记录。
具体来说，在唐朝时期，日本政府为了学习中国的先进文化，曾多次派遣唐使来中国。遣唐使是外交使节，由于不能在中国停留时间过长，日本政府便想出办法，一方面派遣“还学生”随遣唐使一同回国，另一方面则派遣“留学生”继续留在中国学习。因此，“留学生”这个词汇最早就是指那些随遣唐使回国后仍然留在中国学习的学生。
随着时间的推移，“留学生”这个词汇的含义逐渐扩展，现在凡是留居国外学习或研究的学生，都统称为“留学生”。