朱可夫生于卡卢加州斯特列尔科夫卡村一贫苦家庭。朱可夫曾在莫斯科学徒，并于1915年应召进入沙俄军队骑兵团。第一次世界大战之中，朱可夫曾因作战勇敢两次获得圣乔治十字勋章，并被提升为军士。十月革命后他加入了布尔什维克。在一次遭遇战中，他是100人对2000人 并且坚守了阵地七个小时。得到斯大林的赏识。1918－1920年他参加了苏俄国内战争。1923年朱可夫成为团长。1930年升为旅长。他是新的装甲战争理论的热心支持者，并且他详细的作战计划和对纪律的严格要求也给他带来了名气。1937到1939年斯大林对军队进行了清洗，装甲战的倡导者图哈切夫斯基被枪毙，其他很多军事将领也入狱，朱可夫却幸运的逃过了的清洗，并且继续升职。关于这一情况，一般认为是朱可夫的骑兵背景帮助他逃过一劫，当时的苏联元帅中，骑兵出身的伏罗希洛夫和布琼尼都受到重用，而其他三人均被清洗。