1938年1月15日夜,滑县县长许兴凯因恐惧日寇弃职南逃,陈曙辉在长垣北部正式建立了华北人民自卫军,陈曙辉任司令。这支民军武装迅速发展壮大,他们经常活动于滑县、濮阳、长垣一带,神出鬼没地袭击日寇,声望日高,威名大震。
1938年3月,陈曙辉等18名勇士,各带20响手枪一支,子弹百余发,手榴弹4枚,化装后深夜潜入滑县城里。他蓬头垢面,衣服破烂,挎篮拖棍,沿街乞讨,侦察敌情,暗与争取对象警察局长李福五接头后,决定在滑县西关伏击下乡扫荡的日寇。早饭后,一队日军行至西门盆圈时,陈曙辉鸣枪为号,李福五按计划关闭城门,紧接着四面八方向日军一齐开火。日军毫无准备,惊慌失措,无处躲藏,往外冲有枪弹封锁城门,往里退二道城门紧闭,两面夹击,约半小时,大部敌人被歼。这次共消灭日军47人,缴获长短枪支32支,子弹1千余发。当道口镇的鬼子老驴大佐闻讯赶来增援时,陈曙辉已带领18名勇士远走高飞了。
陈曙辉在黄河两岸名气大震,让日伪闻风丧胆,中共地下组织决定动员他们加入我党领导下的抗日组织,通知当地地下组织秘密接触陈曙辉。地下党长垣救国会会长周宪章派张慧和陈曙辉是高中同学,两人见面,张慧影响陈曙辉,陈曙辉和张慧产生感情。
1938年8月初的一天傍晚,张慧通知陈曙辉,八路军青年纵队准备攻打滑县城和道口镇,要他配合行动。陈曙辉与青年纵队商定:由青年纵队攻打道口镇,陈曙辉率部攻打滑县城。民军抽出一个队由史岫当队长,陈曙辉亲自指挥。当夜12点部队从留固出发,行至距滑县城约2里处,兵分3路,分别对南门、北门、东门发起攻击。守城的伪军扈全禄部士兵,听说陈曙辉又来了,吓得边打边从西门拼命逃窜,陈率兵乘胜追击,赶跑了敌人,收复了滑县。8月4日贴出布告,通告全县,陈曙辉正式接任滑县县长。张慧协助陈曙辉管理县城实物,积极号召妇女参加抗战,成立妇救会。
陈曙辉上任后,第一件事就制定公布了“滑县抗日救国条例”。8月7日召集全县绅士开会,他首先阐明有关抗日救国的道理,并约法三章,号召各阶层人士,有钱出钱,有粮纳粮,有人出人,各尽其能。同时宣布:违令者罚,破坏者关,罪恶严重者杀。会后,他连夜赶回家中,说服父亲,催促兑现。因此,四乡八镇的富户均迅速如数交纳粮款,长垣救国会会长周宪章变卖家产,支援陈曙辉,唯有张三寨村王久等“钉子户”,依杖豫北地区专员龚柏岭的势力拒不交纳,陈曙辉便率兵前往,将王九拘禁起来,没收了其家庭浮财,然后开仓济贫,慰劳抗日家属,民众无不拍手称快。
1938年8月中旬某日,陈曙辉又派宋军到镇平石佛寺去见历史老师毛杰,经毛杰介绍面见范文澜,通过马致远给一二九师刘伯承师长写信,请求帮助妥善解决陈部编入八路军的问题。当宋军带回刘伯承的信件时,陈曙辉十分欢欣,倍受鼓舞,遂派耿锁、宋军去拜见刘伯承,请示改编自卫军。1938年8月底的一天,陈曙辉按照党的指示到予定地点,具体协商参加八路军的有关事宜。10月间,根据党组织的安排,乘敌人不备之际,陈曙辉率部队秘密转移到桑村换上八路军的服装,正式加入人民军队,计有400余人,枪支弹药配备齐全。文工团男女学生40余人,电台一部。部队于10月6日开赴内黄县井店村编入冀鲁豫抗日第二支队,陈曙辉任支队长。
陈曙辉参加了共产党领导的八路军,犹如鱼归大海。他对党更加忠诚,工作积极,英勇善战。他那高度的爱国热情、英勇机智和非凡的军事才能得到了充分发挥。陈曙辉领导自己部队多次打击当地日伪军,他们对陈曙辉恨之入骨。
1940年秋天,日寇对冀南抗日根据地实行惨无人道的“大扫荡”,环境极其恶劣,长垣救国会会长周焕章光荣牺牲,陈曙辉闻讯异常悲痛,请求上级到前线战斗。在一次反扫荡的激战中,陈曙辉被几倍于己的敌人毛驴大佐包围了,在打退日寇10余次冲锋之后,弹药用尽就和敌人展开肉搏战。他紧紧地抱着一个鬼子撕打,不幸突然中弹,当时嘴里还衔着咬下来的半个带血的耳朵,与敌人同归于尽,壮烈牺牲于河北省曲周县北寺头战场,年仅25岁。宋军知道后,带领八路军痛击毛驴日伪军,击毙毛驴,为陈曙辉报仇。