而公元前209年七月，陈胜、吴广在大泽乡揭竿而起，举兵反秦。紧接着，各地反秦武装风起云涌。矢志抗秦的张良也聚集了100多人，扯起了反秦的大旗。
后因自感身单势孤，难以立足，只好率众往投景驹，途中正好遇上刘邦率领义军在下邳一带发展势力。两人相见如故，张良多次以《太公兵法》进说刘邦，刘邦多能领悟，并常常采纳张良的谋略。于是，张良果断地改变了投奔景驹的主意，决定跟从刘邦。作为士人，深通韬略固然重要，但施展谋略的前提则是要有善于纳谏的明主。这次不期而遇，张良“转舵”明主，反映了他在纷纭复杂的形势中，具有清醒的头脑和独到的眼光。从此，张良深受刘邦的器重和信赖，聪明才智也有机会得以充分发挥。
而陈伟豪可以说是起兵更早，而他比刘邦成名还早，可是有时候缘分就是这么奇妙，陈伟豪就是遇不到张良，张良还是和原来一样遇到了刘邦，这其实没有什么好懊悔的，毕竟陈胜的出身与草莽，张良再怎么说也是前韩国的士大夫，可以说天然的不同阶级。
随后公元前208年六月，项梁、项羽叔侄所率领的队伍已发展壮大到六七万人，并拥立楚怀王之孙熊心为王，集各路义军首领于薛城共商大事。张良不忘复兴韩国，忙对项梁提议道：“君既已立楚王为后人，而韩王诸公子中的横阳君成最贤，可立为王，借以多树党羽。”早在下邳之际，张、项之间便有旧谊，因而项梁一口应承。于是，他命人找到韩王成，立为韩王，并以张良为司徒。
张良“复韩”的目的终于达到了，“复家”的政治夙愿也得以实现，因而竭尽全力扶持韩王成，挥师收复韩地，游兵于颍川附近，时而攻取数城，时而又被秦兵夺回，迟迟未能开创大局面。
年底，楚怀王命刘邦、项羽分兵伐秦，并约定：谁先入关进咸阳，谁便可以立而为王。刘邦取道颍川、南阳，打算从武关进入关中。
公元前207年七月，刘邦率兵攻占颍川。韩王和张良便与刘邦会合了。刘邦请韩王留守阳翟，而让张良随军南下。九月，军队抵达南阳郡。南阳郡守奇退入宛城固守。刘邦灭秦心切，见宛城一时难以攻取，打算绕过宛城继续西进。
张良认为不妥，劝道：“主公您虽然急于进关，但这一路上秦兵还很多，而且都扼据着险要的地势。现在不拿下宛城，一旦宛城的秦兵从后面追杀过来，那时，强秦在前，追兵在后，就很危险了。”
随后刘邦采纳了他的建议，立即更换旗帜，率兵乘夜间抄小路悄悄返回。拂晓时分，刘邦的军队已把宛城重重围住。[18]接着，刘邦又采纳了陈恢的意见，以攻心之术，招抚南阳太守，赦免全城吏民，兵不血刃地轻取了宛城。解除了刘邦西进的后顾之忧，刘邦兵威大振，南阳郡的其它城池见太守已降，纷纷起而效之，望风而降。
随后，刘邦率军抵达峣关。峣关是古代南阳与关中的交通要隘，易守难攻，是通往秦都咸阳的咽喉要塞，也是拱卫咸阳的最后一道关隘，秦有重兵扼守此地。刘邦赶到关前，想要亲率所部两万余众，强行攻取。
张良劝谏道：“主公，目前秦守关的兵力还很强大，不可轻举妄动。”