苏德战争
1938年日本军队在有苏联驻军的蒙古国和日本扶植建立的边境制造摩擦，朱可夫被派往边境，组织对日军事部署。1939年5月爆发，在朱可夫指挥下，苏联军队大量使用，进行闪电战似的立体机动作战，最终合围日军，取得胜利。这一战役由于远离欧洲主战场，所以不被人注意，但是这一战役在一定程度上使得日本放弃了北进的意图，而将主要用兵方向定在东南亚，使得苏联在中避免腹背受敌的局面。朱可夫因在这次战役中的杰出指挥被授予苏联英雄称号。1940年朱可夫上将晋升军衔，随后被任命为苏军总参谋长。
在总参谋长任上，朱可夫主要任务是提出防御德国攻击的计划。随着原苏联的秘密档案的解密，某些历史学家认为朱可夫曾在1941年5月提出先发制人的进攻德国的方案，但是被斯大林否决了。1941年6月22日德军入侵苏联，爆发，战争初期苏军溃败。朱可夫签署了要求苏联红军立即组织反击的命令，但没有效果。德军长驱直入后，重点进攻。朱可夫经过判断，提出应该撤出基辅，避免被德军合围而引起更大损失。他的这一观点和直率的性格使他与斯大林发生冲突，被任命为司令员，由接任总参谋长。以后的战争进程显示了朱可夫的洞见，如果当时斯大林采纳他的建议，就不会造成中66万苏军被围歼的悲剧。
而朱可夫在担任预备队方面军司令员后，率领该方面军在叶利尼亚地区成功实施了叶利尼亚反击战，粉碎了德军的先头部队。稳定了当地的战线。9月告急。朱可夫被召回莫斯科，被任命为大本营代表，前往列宁格勒，从此开始了他各地协调指挥的序幕，也因此被称为“消防队长”。朱可夫到达列宁格勒之后，当即中止了正在研究撤退方案的会议，毫不留情地撤换了两个集团军司令，逮捕和处决了一些擅自撤退的军官，并迅速拟定了守城计划。通过自己坚强的意志带动下属，合理利用了有效的兵力进行重点防御与反击，稳定住了防线。10月德军大举进攻莫斯科，朱可夫调回莫斯科代替铁木辛哥组织。12月保卫战结束，德军退出莫斯科周边地区。
1942年夏季，斯大林、铁木辛哥不顾朱可夫反对，强行发起进攻战役，结果损失惨重，约50万名官兵被俘，德军前出至河曲和山南麓；朱可夫因此出任最高副统帅，并作为最高统帅部代表被派往斯大林格勒前线。一般认为他和共同策划了，但也有研究者认为这段时间朱可夫主要策划维亚济马方向的无果的攻击行动，而在他的回忆录中抢夺华西列夫斯基的功劳。1943年初，与伏罗希洛夫元帅一起作为最高统帅部代表协调和沃尔霍夫方面军突破德军对列宁格勒的封锁，战役胜利后，军衔晋升为；同年夏季，他作为最高统帅部代表协调；而前线总指挥则回忆说朱可夫并未参与战役的决策，他的作用被大大夸大了。1944年朱可夫作为最高统帅部代表协调组织了代号为“巴格拉季昂”的。1945年作为白俄罗斯第一方面军司令率军攻克柏林，于5月8日深夜主持无条件投降仪式，并代表苏联签字；同年6月24日，在莫斯科红场举行的胜利大阅兵中担任检阅首长（罗科索夫斯基为受阅部队总指挥）。