其后乞活军内部由于政见不合走向分裂：一部分在李恽、薄盛带领下，投靠了东海王司马越。司马越死后，部众分散，李恽率乞活军逃至洧仓（河南许昌东），与石勒军队进行过多次征战（此时的石勒已是前赵的大将），也让石勒吃了不少苦头，如“石季龙（石勒的侄子石虎）袭乞活王平于梁城（今河南方城县境内），败绩而归”（《晋书》），但这支乞活军终究还是为石勒所灭；另一部乞活军由田甄率领远走上党（今山西长治一带），石勒付出很大代价才将其打败，其中陈午一部投降石勒，后又反叛石勒南走江淮，投靠了东晋。
这支活跃在中国古战场上的“特种部队”，辗转存活了百余年，足迹遍布大江南北，成为十六国时期流民武装的一个特例。为了粮食，为了生活，为了自保，他们不得不卷入到战争的行列，也彰显出那个时期流民的困苦与无奈。一个“乞”字，一个“活”字，我们从中能读出那个时代所有流民的凄惨和不幸。
乞活军的出现和存在，充分见证了那个历史大动荡时期的悲壮与凄凉。