一九二四年五月二十一日，张国焘被北京直系军阀政府逮捕，在监狱里，他为了保存性命向敌人出卖党的组织，并供出了李大钊等一大批共产党员。但张国焘出狱后向党隐瞒实际情况，还在他的《我的回忆》一书中，说自己在一九二四年被捕后坚强不屈，视死如归地与敌人斗争，保持了共产党人的气节。1949年后，组织上在整理北京敌伪档案时，才发现张国焘当年叛变的文字材料，澄清了张国焘投敌变节的历史真相。

1924年5月13日，湖北督军萧耀南派军警分别包围汉口的湖北共产党组织的秘密机关和刘芬律师事务所，共产党员许白昊、刘芬和京汉铁路总工会委员长杨德甫等人被捕，杨德甫被捕后，就向敌人供出了在北京的全国铁路总工会的秘密机关和张国焘等人的住址。随后湖北方面由京汉路局密函给北京政府交通部，5月21日凌晨，京师警察厅派出3个侦缉队，去搜捕全国铁路总工会所在地，当时张国焘并不在那里，敌人只抓走了彭子均、李凤林两名干事，接着敌人在腊库16号杏坛学社抓住了张国焘与他新婚不久的妻子杨子烈，敌人在搜捕时还得到许多党的文件和信件。张国焘对这突来的变故毫无准备，张国焘被捕，中国共产党在《向导》上发表一系列文章，声讨北洋政府的反革命暴行，并开展营救活动。李国珍等19名众议员致函内务部总长，要求释放张国焘，彭汉遗等15名众议员也致函内务部总长，要求释放杨子烈。

张国焘等4人被捕后，先被关押在鹞儿胡同侦缉队中，并每日对他们进行严厉的审讯，但没有得到任何有用的口供，5月25日张国焘等人被押解到京师警察厅，从5月26日起，警察厅开始对他们进行野蛮的拷讯，并且每天被拷打三四次之多，张国焘开始时不承认自己便是张国焘，也没有供出党及工会的组织。敌人就拿出在张国焘住处查获的一些信函、文件等，有一份委托状上列有总干事张特立，敌人就问了张国焘，张特立是不是张国焘的别名。张国焘当时对此事千方百计地支吾着，于是敌人又拿出其它一些信函，然后对张国焘大施酷刑。张国焘为了保存性命，最终还是向敌人屈服了，他承认自己是共产党员，是国民党中的共产派，说自己并无任何职务，可谓之挂名党员。

他的新婚妻子杨子烈被捕与张分开关押，她对敌人的亲笔供词中写道：张国焘是研究共产主义学说的。他既是我的丈夫，他所研究学说，我因好奇心，所以也想研究一下。可是因为我们结婚的日期不久，同时我们学校的功课很忙，虽然把关于此类的书籍看看，凭心说话，一本也未看过。不但如此，老实说连共产二字的意义何解也是茫然的。但是，我的丈夫张国焘因受人之愚迷而研究这种邪学说，而得像现在这种结果，我既是他的妻子是脱不了干系的，我也不愿意脱离干系。政府诸大人是人民的父母，人民做了错事，是应该求老大人的宽恕，使其有改过自新之余地。……至于我的丈夫张国焘，此次做错了事是应该受惩罚的。但是青年阅历尚浅，诸大人素来德量宽宏，许人改过迁善，故敢请诸大人念张国焘初犯，特别加于宽恕。那不但张国焘和我铭感不忘，就是稍有知觉的人，也当感德无涯矣。

京师警察厅审讯后认为事关重大，随后双把张国焘等4人押解至京畿卫戍司令部，接着张国焘把北京的全体共产党的名单都供给了敌人，5月30日，卫戍司令王怀庆密信给内务部总长，请求捉拿张国焘提供的北京中共首犯李大钊，李大钊闻讯迅速转移，离开北京的当天晚上，反动军警查抄了李大钊在北京铜幌子胡同的住所，然后敌人又赶到李大钊的老家河北乐亭去捕人，当时李大钊暂避在河北昌黎亚峰山，敌人两次抓人都扑空了。6月11日北京政府内务部发出了对李大钊等人的通缉令，并把通缉令下发到各省。此前，李大钊在避居地接到中共中央的通知，委派他为中共首席代表出席共产国际第五次代表大会，李大钊就化装成商人，秘密回到北京，然后去了莫斯科。

张国焘还供出了许多铁路工人党员的名单，其中京绥路工人党员7人，京奉铁路工人党员21人，胶济铁路工人党员3人，正太路工人党员2人，京汉铁路工人党员8人，津浦路2人，粤汉路1人，通清路2人，陇海路1人，广州工人党员24人，并详细向敌人提供了这些人的具体姓名及通信地址。由于张国焘的出卖，全国铁路总工会委员长孙云鹏在石家庄被捕，随后北京、天津、保定、郑州等各地铁路工会负责人被捕、被通缉、被开除的达40人，我党领导的北方铁路工人运动，受到一次严重的破坏。担任京畿卫戍司令的王怀庆把张国焘一案上报给北洋政府总统曹锟，要求枪毙张国焘，另一名军阀齐燮元提出“给他一个永远监禁，让他瘐死狱中”的建议，张国焘才算保住了性命。

这年的9月，爆发了第二次直奉战争，10月直系军阀将领冯玉祥发动北京政变，推翻了直系军阀曹锟、吴佩孚控制下的北京政府。冯玉祥在思想上十分倾向于革命，中国共产党就利用这个大好机会，营救了关押在北京、天津、保定等地监狱中的大批共产党员，10月25日，张国焘夫妇结束他们5个多月的铁窗生涯。重返中共中央并继续担任重要职务。出狱后张国焘一直对党组织隐瞒他出卖党组织和工会组织的真实情况。二十世纪五十年代张国焘夫妇受他的朋友刘百闵的邀请，由台湾定居于香港，并以写作为生。张国焘以桤音为笔名写了《我的回忆》一书，在书的第七篇《五个月的监狱生活中》，说他在受刑时“咬着牙关，忍着剧痛，一言不发”，使敌人“一无所得”等等，这与真实不符。