由于日语不是世界通用语言，各国的中、小学一般不会教授日语。这么一来，外国学生到日本升学，语言障碍就成为首要问题。

不过，一些有志于赴日深造的年青人，会在赴日前到日语学校去进修日文，或是在大学课程中有目的的选修一些日文课程。日本政府亦为了鼓励外国人学习日语，由派驻外国的日本使馆的文化部进行大力推动，甚至开办日语课程，每年举行甄选考试，成绩佳者获发全额奖学金到日本留学。

另外，一些国家和地方的政府也由于外交方面的需要，会选派学习成绩优异的学生作公费生到日本深造。1990年，领取日本政府奖学金的留日学生共有4，961人；外国政府派遣的公费留学生则有1，026人。

留日学生中，占绝大部分的是自费留学生。虽然有部分学生在留学前进过日语学校进修，但因时间短，学习环境配合不上，很难达到接受专门学科教育的语言水平。所以大部分自费留学生来日本后都是先报读日语学校，打好语言基础，再投考大专学校。

过去日本的日语学校，一般办学严谨，教学质量高，师资优良。在教学之余，还比较关心留学生的生活，使身处异国的学子，能感觉比较温馨和亲切。

现在自从留日热潮滚滚袭来，原有的日本语学校已无法容纳风涌而至的留学生，新的日语学校便如雨后春笋般开办起来。在这些学校当中就有一些功利性强，见钱眼开的商人趁机混进这个行列，办起所谓的"日语学校"来；只顾收取留日学生的费用，随便找一些没有实际教学经验的人上课，来敷衍不知真情的留日学生。这些"学校"对一些有志于学习的留学生而言，无疑是虚耗了他们宝贵的光阴。

目前，日本列岛由北至南约有1，000间日本语学校（据另一些消息统计，认为有3，000至4，000间）。但哪些是好、哪些是坏的学校，大部分外国学生一时亦难以辨清。