1941年夏,受到新思想影响的邵光荣在结婚的第二天就参加了新四军,告别新婚妻子跟着部队离开家乡去打鬼子。“我很对不住我的妻子,刚结婚就让她独守空房。”邵光荣的妻子在他离家后,根据写信地址找到南京,结果与家人失散。
参军后的邵光荣,因为识字,当了新四军18旅48团3营的通信员。1942年,他所在部队攻打安徽泗县,当时日军重兵占据县城,城内百姓生活在水深火热中。邵光荣和侦查员先摸进城里搜集敌军据点的情况,然后由他以最快的速度送回指挥部。这期间,邵光荣几乎是不分昼夜地奔跑,一天只能睡两三个小时,而且是随便找个草丛或墙根就睡了。