身处曹州的翟让与单雄信，自然也看清了这其中的利害关系，二人都按捺住心中躁动，并未贸然举旗起义，而是选择暗中蛰伏，悄悄积攒人马、粮草与兵器，扩充自身实力，静待最合适的时机再出手。
翟让率先行动，靠着自己往日的江湖名声，很快就召集了一帮同样不满隋廷统治、想要搏一条出路的弟兄，拉起了一支队伍。只是他极为谨慎，并未公然打出起义反隋的旗号，只是带着弟兄们隐于山野，如同寻常土匪武装一般，流窜于乡野之间，打劫过路的行商富豪，以此维系队伍的生计，低调蛰伏，不引起朝廷官军的注意。
而单雄信则走了一条更为高明的路子，依旧按着自己经营多年的老路子发展势力。他麾下的绿林弟兄遍布各郡县，平日里散落在市井乡间，耕田、经商、做工，做什么营生的都有，与寻常百姓毫无二致，根本看不出半分绿林人的痕迹；可一旦他传令召集，顷刻间便能聚起一支精锐人马，化民为兵，聚集成军，散则为民，聚则为匪，来去无踪，隐秘至极，俨然是一个扎根极深、无人能察觉的隐形地下组织，实力远比明面上看起来更为雄厚。
翟让带着麾下的弟兄，时常在曹州境内的乡野、官道附近活动，靠打劫为生。徐茂公虽与他交情深厚，却并未加入这支队伍——他有家产依托，又有医术傍身，根本不需要靠打劫劫掠来维持生计，犯不上做这刀口舔血的买卖。可他冷眼旁观，却渐渐看出了翟让这支队伍的致命隐患，心中十分担忧。
他深知，兔子不吃窝边草，这是绿林立足的根本规矩。翟让性情粗犷，治下本就不严，麾下弟兄良莠不齐，有忠义之士，也有见利忘义的亡命之徒，照着他们在曹州本地随意劫掠的做法做下去，迟早会有人不守规矩，把手伸向乡里乡亲的普通百姓，烧杀抢掠，无恶不作。一旦坏了规矩，失了民心，不仅会落下千古骂名