徐州失守后，中共河南省委派出大批党员、干部分赴豫东敌后，组织人民武装，开展抗日游击战争。1938年9月2日，周恩来、叶剑英指示河南省委，将武装斗争的重心移向豫东，创造豫皖苏鲁边区的新局面。遵照这一指示，彭雪枫率领新成立的新四军游击支队一部370余人，从确山县竹沟镇开赴豫东敌后，在西华县杜岗与吴芝圃、萧望东率领的两支武装会合并进行整编。新四军游击支队辖有3个大队，共945人，彭雪枫任司令员兼政治委员，吴芝圃任副司令员，张震任参谋长，萧望东任政治部主任。10月24日，游击支队东渡新黄河（史称黄泛区），进入豫东敌后。27日，游击支队在淮阳窦楼迎战日军骑兵小分队，毙敌10余人，首战告捷。游击支队继而挺进雎（县）杞（县）地区，初步打开了豫东的抗战局面。

1939年初，彭雪枫率游击支队东征，进入亳（县）北、永（城）西、商（邱）南地区作战。3月，游击支队在萧（县）宿（县）地区与八路军苏鲁豫支队会合，相互配合，广泛开展抗日游击战争。随着新区的开辟，为加强地方党的领导，1939年3月，中共豫皖边省委在永城书案店成立，书记张爱萍，副书记吴芝圃。后改称为豫皖苏边区党委，书记吴芝圃。1939年11月，中共中央中原局书记刘少奇抵达新四军游击支队司令部所在地——涡北新兴集，传达了党中央关于放手创立抗日根据地的指示，并对豫皖苏边区党政军工作作了部署。随后，豫皖苏边区抗日民主政权——豫皖苏边区联防委员会成立，吴芝圃任主任。到1939年底，新四军游击支队发展到1.7万余人。至此，豫皖苏边区抗日根据地已初具规模。

1940年2月，游击支队正式改称为新四军第六支队。6月下旬，黄克诚遵照中央军委指示，率八路军5个团南下豫皖苏边区，与新四军第六支队合编为第十八集团军第四纵队，彭雪枫任司令员，黄克诚任政治委员。8月初，黄克诚奉命率3个团东进皖东北地区后，第四纵队遂整编为3个旅，执行向西防御的任务。9月初，彭雪枫率纵队主力进入淮上地区（在凤台以北、蒙城以东、宿县以西广大地区），发动群众，打击日、伪军，收复失地，开辟了淮上根据地。此时，豫皖苏边区抗日根据地东自津浦铁路，西至新黄河，南跨涡河，北达陇海铁路，面积为1万多平方公里，人口300多万。根据地进入鼎盛时期。

1940年10月，国民党顽固派掀起第二次反共高潮，蒋介石调集汤恩伯集团军10万余兵力，大举进犯豫皖苏边区，新四军第四师奋起自卫反击，经过3个月的艰苦的反磨擦斗争，终因寡不敌众，第四师主力部队和豫皖苏边区党政干部于1941年5月奉命离开豫皖苏边区抗日根据地，转移到皖东北地区，开展创建淮北苏皖边区抗日根据地的斗争。

来源：“学习强国”学习平台