援西军组成后，毛泽东专门与林育英作了一次长谈。毛泽东说：“这个任务很艰巨。长征途中，许多干部、战士在张国焘右倾分裂主义错误的危害下，曾三过草地，吃苦甚多，牺牲了不少人。干部、战士的政治思想工作任务很重，没有一个得力的人去不行，所以，中央决定派你去。军事上，伯承同志很强。这样，援西军里的文武两将都是硬角色。”“伯承同志很强，我向他学……”未等林育英说完，毛泽东大笑起来：“你也很行啊!你是湖北人，不是有‘惟楚有才’的说法吗?你也是‘楚才’嘛!”

　　又谈了一阵，毛泽东对林育英说：“西路军情况危急，时间紧迫。你赶快与伯承同志商量一下，先把陕北的部队带出去，再在甘肃省镇原县将部队集中起来，然后相机援助和接应西路军。”第二天，部队从三原、淳化出发，日夜兼程西进。经过半个月的急行军，部队到达镇原县时，收到西路军发来的一份电报。电报中说，他们经过数次血战，迭遭挫折，干部、战士大部分牺牲、被俘，余下人员被迫上了祁连山上的康隆寺，已经弹尽粮绝。援西部队远水解不了近渴，不必渡河。党中央也来了电报，要求援西军暂时屯兵镇原，一面收容西路军失散人员，一面进行整训。西军在镇原待命期间，收留了数千名失散的西路军官兵。西路军总指挥徐向前，也是刘伯承、林育英派人接到镇原县城的。对于收留的西路军人员，林育英指示政治部对他们作了较好的安排——有的到随营学校或延安学习，有的则就近编入了援西军。

　　不久，任弼时受中央委派，到援西军传达了中央政治局扩大会议精神和中央《关于张国焘同志错误的决定》。根据中共中央的决定，援西军随即展开了对张国焘错误行为的批判。批判一开始，援西军的部分干部思想上就出现了偏差。有的认为，西路军失败的责任在党中央，还有的在批判张国焘的错误时，将红四方面军与张国焘混在一起，似乎整个红四方面军中没有好人。许多连队、机关开会讨论时，不同意见的人常发生争论，有时还争得面红耳赤。

　　林育英很快发现了这些倾向。为了统一全军的认识，把批判张国焘的错误引入正轨，他深入到各军、师、团，一次又一次地向干部、战士作报告，用摆事实、讲道理的办法，对基层官兵进行教育，引导他们深刻认识张国焘错误的严重性，提高广大指战员的思想觉悟，并按照党中央规定的政策界限，将张国焘与红四方面军广大干部、战士严格区别开来。精诚所至，金石为开。林育英强有力的思想政治工作，不仅使援西军的干部、战士提高了认识，统一了思想，还肃清了张国焘错误路线在红四方面军中的影响。

　　1937年7月7日，抗日战争全面爆发。根据国共两党达成的协议，中共中央决定将红军主力改编为八路军。8月25日，中革军委发布命令，刘伯承任八路军一二九师师长，林育英任师政训处主任(10月改任师政委)，徐向前任副师长。8月22日至25日，林育英出席了党在洛川召开的政治局扩大会议。会上，他就统一战线和抗日战争的策略问题作了发言。在这次会议上，中央成立了以毛泽东为首的11人中央军事委员会，林育英排名第8位。

　　9月1日，林育英与刘伯承一起回到陕西省三原县石桥镇一二九师师部。第二天，刘、林召开了全师高级干部会议，传达了洛川会议精神。9月3日，林育英又与刘伯承一起召开了全师连以上干部会议。林育英过去从未带过兵，要带好这支万余人的部队，是很不容易的。针对部队存在的问题，林育英与刘伯承紧密配合，在部队中开展了一场又一场强有力的思想教育运动。他数次召集部队团以上干部开会，并多次作报告。他反复向干部讲：一二九师的全体干部要在认识张国焘分裂主义危害性的同时，自觉地团结在党中央周围。中央出现的这次分裂，责任在张国焘，不在下面。下面的同志只要了解了事情的真相，提高了认识，总结出经验教训就行了。他还教育大家，党的原则是党指挥枪，决不允许枪指挥党。不管你本事有多大，人有多少，也不能与中央对抗，更不能同中央闹对立，要用无产阶级的党性和铁的纪律严格要求自己，自觉地维护党的团结。林育英的报告，对增强一二九师干部的团结和统一，起了至关重要的作用。部队改编后，党中央要求八路军各师在抗战中要机动灵活，避实就虚，以游击战为主。为了适应这一变化，一二九师一开拔到辽县，刘伯承与林育英就商量决定办一个游击训练班，培训军队和地方游击队干部。训练班开学后，刘伯承、林育英亲自去授课。干部们分期分批地到训练班学习后，就带队到各地“分兵以发动群众，集中以打击敌人，广泛开展游击战争”。在开展游击战时，既要反对只游不击，又要反对只击不游，坚持游而避实，击而就虚。由于刘伯承与林育英在战略战术上的超前工作做得好，一二九师在后来的对日作战中屡屡获得胜利。如在打阳明堡飞机场时，他们就用了奇袭的办法，一次击毁敌机20余架，狠狠打击了日军的嚣张气焰。

　　按计划，一二九师要在9月6日召开全师“抗日誓师”大会，但这天却下起了倾盆大雨。陈赓和李达一再向林育英建议：雨天在外面站久了，干部、战士恐怕会得病，是否将誓师大会改在晴天进行。林育英不同意改期，他说：“已经决定了的事情，不要轻易变更。我们是军队，如果朝令夕改，将会影响干部、战士的情绪。誓师大会照常进行。”在誓师大会上，林育英代表党中央及中央军委，授予一二九师指战员“红军十年纪念章”。这次大会虽是在雨中进行，但因准备周到，指战员情绪高涨，会议开得极为成功。誓师大会后，部队一边学习，一边整训，为开赴抗日前线作准备。

　　因脑病时常发作，林育英不得不带着健脑器工作。后来，由于病情加重，他经常晕倒在工作岗位上。鉴于此，刘伯承特地向党中央报告了林育英的严重病情，建议中央将林育英调回延安治疗，并另派一名政委到一二九师。毛泽东接电后，当即与张闻天等人商量，决定调林育英回延安，由八路军政治部副主任邓小平继任一二九师政委一职。