1950年，驻日盟军总司令部发动赤色清洗，取缔日本共产党，开除日共人士的公职，并对日共领导人进行通缉。日共干部大多转入地下活动。中共领导人毛泽东得知此事后，发出“从日本救出德田”的指示，要求将日共书记长德田球一救到中国。德田最初强烈反对这个提议。然而在8月上旬召开秘密政治局会议之后，决定流亡中国。8月15日，德田派往中国的信使宫岛义勇回国，向德田传达了中国共产党“欢迎日共领导人来中国”的意向。10月，德田在大阪湾乘坐“人民舰队”的船只秘密离开日本，来到北京。
在此前的4月，安斋库治早已前往中国，做好建立北京机关的准备。8月底，德田球一、西泽隆二来到北京。9月，野坂参三也到达。同月，德田在北京组建日本共产党临时中央指导部，俗称北京机关。因最高领导人是德田球一，又被称为德田机关或者孙机关（德田球一是琉球人，原中国姓名姓孙）。1951年9月，伊藤律也流亡北京，加入北京机关。
流亡北京的日共领导人多为所感派。在1951年2月23日的日本共产党第4回全国协议会（四全协）上，确定反美武装斗争的方针，模仿中国共产党在抗日战争中的战术，以农村包围城市，在全国各地的农村建立解放区。10月16日的第5回全国协议会（五全协）上，更是确立在农村实行游击战的纲领。山村工作队、中核自卫队等游击队组织相继在日本农村成立。北京机关在武装革命斗争上得到中共和苏共的资金援助。1952年5月1日，伊藤律秘密组建名为“自由日本放送”的电台。北京机关通过该电台，向日本国内发出武装斗争的指示。
