1962年，毛主席向日本劳动人民发表了重要题词“只要认真做到马克思、列宁主义的普遍真理与日本革命的具体实践相结合，日本革命的胜利就是毫无疑义的”，这给予了日共武装斗争派伊藤律及其领导下的日本左翼青年们极大的精神鼓舞与关怀。他们高呼着“毛泽东思想万岁，万岁，万万岁”与“造反有理”同警察展开肉搏，设置路障，占领一个制高点，然后放高音喇叭，困守到底，如占领东大的安田讲堂。事后，一些左翼青年自发组织结合起来，成立了组织结构上隶属 于日共武装斗争派学生党员建立的日本共产主义者同盟的“武斗派”，这就是“赤军派”的起始。但这时的共产主义者同盟的“武斗派”还没有自己的武装，采取和平合法的街头游行示威斗争。1969年，共产主义者同盟的“武斗派”主张建立自己的武装，同年，在大菩萨山口设立用来训练袭击首相官邸的秘密武装斗争基地。在秘密武装斗争基地里的共产主义者同盟“武斗派”把自身的原“武斗派”改称作“赤军派”。但是，他们在大菩萨山口设立用来训练袭击首相官邸的秘密基地被警察破获，武装力量被一网打尽。残余人员纷纷逃往海外，建立“国际根据地”。这部分人主要分两部分，一部分是以田宫高磨为首的劫持了日航飞机投奔朝鲜；另一部分则是重信房子等前往中东，投奔巴勒斯坦人民阵线，组成“赤军派阿拉伯委员会”，又称“阿拉伯赤军”，后改名“日本赤军”。所以，所谓在巴勒斯坦成立的“日本赤军”实际上并不是最早的“赤军派”，而是“阿拉伯赤军”。

1969年在日本国内大菩萨山口秘密武装斗争基地遭遇失败的一部分“赤军派”继续留在日本活动，并于1971年和“日本共产党神奈川县党任委员会革命左派”的小组织合并成立了“联合赤军”。所以在谈到赤军时经常要注意，共有三个“赤军”：“赤军派”、“联合赤军”、“日本赤军”。1972年2月29日，联合赤军在“浅间山庄”进行“肃反整风”时被警察包围，未能参加的漏网者后来也有不少出国参加“阿拉伯赤军”——“日本赤军”。“