要来源可以分为四个部分，即留日士官生，保定军校生，黄埔军校生，此外还有一些地方讲武堂毕业生。其中以留日士官生发端最早，时间也较长，从1898年第一批留日士官生赴日到1937年全面抗战爆发，前后计有二十九期、一千六百余人。虽然留日士官生的总体数量不及保定和黄埔学生，但是其历史作用却不容忽视。

    像蒋百里、蔡锷、孙传芳、何应钦、杨宇霆、徐树铮、李烈钧、汤恩伯、阎锡山等都是从日本陆军士官学校的。而且这里面还有一个极为有意思的故事。故事的主人公就是回国先后任保定陆军军官学校校长及代理陆军大学校长，并着有国防论的蒋百里将军。

    蒋百里在1901年留学日本，经成城初级军事学堂而进入士官学校。1906年毕业的时候，日本天皇赐刀给最优秀的步兵科毕业生中的第一名，结果蒋百里夺了这个第一，把日本天皇的赐刀带回了中国。他毕业获奖的场面颇为传奇，因为日本陆军士官学校宣布毕业生的名次是从前向后的，念的第一个名字就是蒋方震，也就是蒋百里将军。

    当时第九期步兵科毕业生有日本人三百余人，中国留学生四名，泰国等国留学生若干名。就这样，第一名被中国留学生蒋方震就是蒋百里拿了，天皇的赐刀当然也归中国了。日本士官普遍感到难堪，接着宣布第二名，谁知还是中国人。这第二名就是后来从云南起兵反袁的将军蔡锷。

    这样一来，引起的骚动更大了。于是，宣布第三名之前，日本方面先检查了一下不幸，这次还是中国人，名叫张孝淮。

    日本士官学校的毕业发布官是伏见宫亲王，惶恐之下感觉无法向天皇交代，临时从后面换了一个日本学生作为第三名。想想前四名内，日本人不过半数也尴尬，又递补了一个日本学生作为第四名，张孝淮得了第五。

    增加的两个日本人是谁呢一个名叫荒木贞夫，后来的日本陆军大将、陆相、甲级战犯；另一个名叫真崎甚三郎，后来的台湾军司令官、陆军大将、二二六事变的幕后黑手此外，这一期里的日本毕业生还包括如下名字林仙之、本庄繁、松井石根、阿部信行堪称日本陆军的一代精英，皆惨败于蒋百里、蔡锷之手。从此以后，日本陆军士官学校规定中国留学生必须与日本学生分开上课，以免同样的场面重演。

    按理说，蒋百里得了这样的荣誉，怎么也该说两句日本的好话。谁知道百里将军却说中国从日本学了两件东西最不可救药，一个是教育，一个是陆军然后飘然到德国，以德意志国防军第七军营长的身