取得黎阳仓，稳定住形势之后，杨玄感便开始露出了他的獠牙。
杨玄感宣布在黎阳城内，关闭城门，大搜男夫，充作兵丁。又下令打开黎阳仓的库藏，分发给众人，并设置官署，废除杨广登基以来的一切新定制度，所有制度都按开皇年间的办法来办。
杨玄甚至连杨广改州为郡也不承认。
他又送文书到周围的州郡，以讨伐来护儿为名，让他们发兵，到粮仓所在地相会。
此时元务本、赵俊用等人才后知后觉地发现杨玄感这不像是要剿匪，反而是要造反。二人后悔不已，但是二人已经上了杨玄感的贼船，这时候作为杨玄感攻破黎阳仓的功臣，二人也下不了船了。
杨玄感为了收拢人心，对于此二人倒是不吝封赏，他将汲郡一分为二，东部以黎阳城为治所设黎州，元务本为黎州刺史。西部以卫县为治所设卫州，赵俊用为卫州刺史。
又以杨氏旧臣河内郡主簿唐祎为怀州刺史。
此时杨玄感手上有一万五六千人，他又挑选输送军粮的民夫中身强力壮者五千余人，丹阳、宣城郡的水手三千人，联合诸郡兵员，勉强凑了两万五千余人。
不得不说杨广在河北的穷兵黩武倒是帮了自己的忙，因为多重天灾人祸，黄河两岸的兵源早就枯竭，杨玄感虽然大肆搜索，可也没有征到多少人。
而且出人意料的是，黎阳仓内的确粮食充足，但是武器甲胄却没有多少，一部分被杨广在上一次征讨高句丽的时候给霍霍了，剩下的也早就拉到了涿郡。
有些跟想象的不一样，但杨玄感没有办法，只得用帆布作牟甲，而士兵每人只有一柄单刀，一个柳条盾，没有弓箭，也没有铠甲。
这样的军队，跟那些造反的民军没多大区别。
但事已至此，造反可没有回头路，无论如何也得进行下去。
杨玄感有些想家了，在弘农郡他的老巢，可是储备了无数的物资，都是为了造反用的，但现在全都用不上。
准备妥当之后，四月十八日，杨玄感杀三牲誓师，并以治书侍御史游元祭旗。
游元曾跟随黄明远北伐，此时已经六十岁的他还在黎阳督运军粮。杨玄感起事之后，便扣押了游元，并劝其投降。
游元乃是名臣，若能从之，必能大涨义军声望。
杨玄感对游元说道：“杨广乃是一个独夫，逞肆暴虐，已经使自己陷于绝远之地。今天下大乱，暴民四起，这是上天要亡了杨广。如今我亲率义兵，诛杀无道之君，匡扶社稷，乃是顺应天命，游公何不与我一同来做此事。”
游元愤怒地斥责道：“杨玄感，你也是国之重臣，深受国恩之人。汝父先楚公深受两代天子的宠信恩遇，近世无人可比，你们弟兄几人也都位居高官显爵，正是对国家竭诚尽节，上报鸿恩之时。今汝父坟土未干，您就亲自策划谋反！死后如何去见汝父。我游元虽不能杀贼，但唯有一死而已，绝不能从命！”