公元621年十月二十一（乙巳），梁王萧铣在江陵投降了唐赵郡王李孝恭。十二月初三（乙卯），刘黑闼攻陷冀州，于是在半年之内，收复了窦建德原来的全部地盘。十二月十五（丁卯），唐高祖命令秦王李世民和齐王李元吉带兵讨伐刘黑闼。

武德五年即公元622年春正月，刘黑闼自称汉东王，改元天造，定都洺州。他任命范愿为左仆射，董康买为兵部尚书，高雅贤为右领军。他还征召王琮为中书令，高斌为中书侍郎。窦建德时的文武大臣都恢复了本位。他的律法和行政，也都遵照窦建德的，然而在攻战和勇猛果决方面超过他。正月初三（乙酉），刘黑闼攻陷相州，唐刺史房晃战死。

正月初四（丙戌），同安的贼帅殷恭邃在舒州来降大唐。

正月初五（丁亥），济州别驾刘伯通捉了唐刺史窦务本，在济州依附徐圆朗。

正月初八（庚寅），东盐州治中王才艺杀了唐刺史田华，在州城起兵响应刘黑闼。

秦王李世民率军来到获嘉，刘黑闼丢弃相州，退保洺州。正月十四（丙申），李世民收复了相州，接着进军肥乡，在营水河边列阵，紧逼刘黑闼（根据《旧唐书》，丙申这天，相州人杀了唐刺史独孤彻，在州里叛附于刘黑闼。）

同时，萧铣败后，他的部属多数都归附林士弘，于是林士弘的军势重新振作。

正月二十七（己酉），岭南俚族人的领袖杨世略在循、潮二州来降唐朝。同时，唐朝使者王义童成功招降了泉、睦、建三州。

幽州总管李艺带领他的几万部众和秦王李世民会合，共讨刘黑闼。刘黑闼得知这事后，留下一万人，让范愿带领守卫洺州，自己带兵抗拒李艺。夜里，他率军在沙河过夜。跟随李世民出征的原永宁县令程名振用车辆载着六十面大鼓，在洺州城西二里的堤上猛击大鼓，搞得城中地面全部震动。范愿又吃惊又害怕，派人飞马去报告刘黑闼。刘黑闼急忙率军赶回，并派他弟弟刘十善和行台张君立带兵一万到鼓城出击李艺。正月三十（壬子），双方在徐河决战，结果刘十善和张君立大败，损失了八千人。

洺水人李去惑占据县城来降唐朝，秦王李世民派彭公王君廓带领一千五百骑兵赴援，进城帮助他守卫。二月初，刘黑闼带兵回来进攻洺水。二月十一（癸亥），刘黑闼来到列人。秦王李世民派秦叔宝截击并打败了他。

同时，豫章的贼帅张善安带着虔、吉等五州来降唐朝，唐高祖李渊拜他为洪州总管。二月十六（戊辰），金乡人阳孝诚背叛徐圆朗，在金乡城来降唐朝。二月十七（己巳），秦王李世民收复了邢州。二月十九（辛未），井州人冯伯让在州城来降唐朝。

二月二十四（丙子），李艺攻取了刘黑闼控制的定、栾、廉、赵四州，还擒获刘黑闼的尚书刘希道。他接着带兵和秦王李世民在洺州会合。

再说刘黑闼率军猛攻洺水。城池四周环绕着护城河，宽五十多步。刘黑闼在城东北修筑二条甬道，想以此攻城。李世民三次带兵来救，但都被刘黑闼派兵拦住，无法前进。李世民担心王君廓不能守住，便召部将们商议。李世勣说：“如果甬道修到城下，城池就一定守不住。”行军总管郯勇公罗士信请求取代王君廓守城。李世民于是登上城南的高坡墓地，用军旗招呼王君廓。王君廓率领他的部众力战，突围而出。罗士信带领身边的二百人趁机杀进城里，代替王君廓坚守。刘黑闼昼夜猛攻，遇上大雪，救兵无法前往。罗士信坚守了八天，洺水终于在二月二十五（丁丑）失陷。刘黑闼历来知道罗士信勇猛异常，想留下他，但罗士信坚贞不屈，最终被杀，死时才二十岁。

二月二十九（辛巳），秦王李世民在洺水失陷了四天后攻拔了它。三月，李世民和李艺在洺水城南布阵，分兵进驻洺水城北。刘黑闼多次挑战，但李世民坚守壁垒，不肯应战，却另派奇兵断绝了他的粮道。三月十一（壬辰），刘黑闼任命高雅贤为左仆射，高雅贤于是在军中宴请将帅。李世勣带兵紧逼他的兵营，高雅贤趁着酒醉，自己一个人骑马去追逐唐军，结果被李世勣的部将潘毛刺中，跌下马去。他身边的随从赶了上来，扶着他回营，但还没到他就死了。三月十三（甲午），唐军的将领们又带兵进逼刘黑闼的兵营，但潘毛却被王小胡擒获。刘黑闼从冀、贝、沧、瀛等州，用水陆两道运粮过来。程名振带着一千多人伏击，凿沉了他们的粮船，焚烧了他们的粮车。

秦王李世民和刘黑闼相持了六十多天。刘黑闼暗中派军队去袭击李世勣的军营。李世民带兵攻击他的殿后，想以此救援李世勣，结果被刘黑闼包围。尉迟敬德率领一批壮士冲进重围，李世民和略阳公李道宗因此得以冲出包围圈。李道宗是唐高祖的侄儿。李世民估计刘黑闼的军粮已经耗尽，一定会前来决战，便派人修筑堤堰，堵住洺水上游的流水。他跟守卫堤堰的军吏说：“等我和贼兵开战时，就把堤堰决开。”三月二十六（丁未），刘黑闼率领步骑二万南渡洺水，就在唐军兵营前面布阵，要以气势压倒唐兵。李世民亲自率领精骑攻击他的骑兵，打败了他们，然后乘胜蹂躏他们的步兵。刘黑闼率众殊死奋战，从中午直打到黄昏，战了许多回合。刘黑闼最后势不能支。王小胡跟刘黑闼说：“我们的计谋和兵力都用尽了，应该尽早离去。”便和刘黑闼率先逃跑。他的部众还不知情，仍然在奋力作战。守卫堤堰的官吏于是决开堤堰，洺水冲了下来，淹没了刘黑闼的部队。水深丈余，刘黑闼的部众因此全面溃败，阵亡了一万多人，溺死的也有数千。刘黑闼和范愿等人带着二百随骑投奔突厥，山东的叛乱终于被平定了。

再回到其他战场。这年二月二十六（戊寅），唐汴州总管王要汉攻打并占领了徐圆朗的杞州，还捉获了他的部将周文举。

二月二十八（庚辰），延州道行军总管段德操攻打梁师都的石堡城，梁师都亲自带兵来救。段德操和他开战，击溃了他，梁师都只带着十六个随骑逃走。唐高祖给段德操增派了兵力，让他乘胜进攻夏州。段德操攻克了东城，梁师都带着几百人退保西城。刚好遇上突厥的救兵来到，朝廷因此下诏让段德操撤兵回来。

唐宋州总管盛彦师率领齐州总管王薄攻打须昌，并向潭州征用军粮。唐潭州刺史李义满和王薄有矛盾，居然关闭粮仓不给。当须昌投降后，盛彦师收捕了李义满，将他关进齐州监狱，但唐高祖下诏要放了他。但朝廷使者还没到时，李义满因为忧愤过度，竟然死在狱中。王薄回来时，经过潭州。三月十七（戊戌）夜里，李义满兄长的儿子李武意捕捉了王薄，把他杀了。盛彦师也被这事株连而死。

唐高祖派使者去贿赂突厥的颉利可汗，并许诺和他通婚。颉利可汗于是将早先扣留下来的唐朝使臣汉阳公任瑰、郑元璹、长孙顺德等人都遣返长安，并于三月十九（庚子）再次派使者来和唐朝修好。唐高祖也将原先被扣留的突厥使者特勒热寒和阿史那德等人送回突厥。并州总管刘世让进驻雁门，颉利可汗与高开道和苑君璋合兵攻打他，一个多月后才撤退。

三月二十三（甲辰），唐高祖任命隋交趾太守丘和为交州总管。丘和派他的司马高士廉奉表请求入朝，唐高祖下诏答应了他，并派丘和的儿子丘师利去迎接他。

同时，高开道入寇易州，杀了唐刺史慕容孝干。

夏四月，梁州出现野蚕成茧的现象。同时，占领巴东的冉安昌降唐。

四月初八（己未），隋鸿胪卿宁长真在宁越和郁林一带向李靖请降，因此通往交州和爱州的道路开始畅通。唐高祖任命宁长真为钦州总管。

同时，唐高祖任命夔州总管赵郡王李孝恭为荆州总管。

再说，徐圆朗听说刘黑闼战败，大为恐惧，不知该怎么办才好。河间人刘复礼劝徐圆朗说：“有个叫刘世彻的人，是罕见的人才，名声在东部是如雷贯耳，而且有非同寻常的相貌，和真正帝王的才器。将军如果自立，恐怕终将一事无成。如果迎立刘世彻而拥戴他，那么天下可以挥手而定。”徐圆朗信了他的话，便让刘复礼到浚仪去迎接刘世彻。有人劝徐圆朗说：“将军被人迷惑了，怎能去迎接刘世彻拥戴他呢？如果刘世彻真的得志，将军哪里还有保全自己的地方！我不敢到古书里去找例子，但将军难道就没有吸取翟让迎立李密的教训吗？”徐圆朗又信了他。刘世彻来到时，已有数千部众，驻扎在城外，等候徐圆朗出城迎接他。但徐圆朗没出去，反而派人去召他进城。刘世彻知道事情不对头，便想逃走，但又怕跑不掉，只好入城拜谒徐圆朗。徐圆朗兼并了他的部众，任命刘世彻为司马，派他去征服谯、杞二州。东部人都听说他的英名，所以他所到之处人们纷纷归附。徐圆朗终于因为嫉妒而杀了他。

秦王李世民从河北带兵将要出击徐圆朗，刚好遇上唐高祖要召见他，派人乘坐驿站的马车传他入朝。李世民只好将兵权交给齐王李元吉。四月初九（庚申），李世民回到长安，唐高祖在长乐宫迎候他。李世民向他具体陈述了攻取徐圆郎的形势，唐高祖因此又派他前往黎阳，会合大军直趋济阴。

四月十六（丁卯），朝廷废除了山东行台，并于次日赦免流放罪以下的犯人，让他们去帮助收割麦子。

四月二十一（壬申），代州总管定襄王李大恩被突厥人杀了。先前，李大恩上奏声称，因为突厥正在闹饥馑，朝廷可以派兵夺取马邑。朝廷于是下诏，派殿内少监独孤晟带兵和李大恩共同出击苑君璋，期待于二月在马邑会合。后来独孤晟错过了约定的日期，李大恩不能独自前进，只好进驻新城。颉利可汗派数万骑兵和刘黑闼共围李大恩，唐高祖派右骁卫大将军李高迁去救。李高迁还没来时，李大恩的部队就没了军粮，只好在夜里逃跑，结果被突厥截击，部众全都溃败，李大恩自己也死了。唐高祖非常痛惜。独孤晟因为耽误军机被判处流放，免于死刑，但最终死在边远地区。

四月二十五（丙子），行台民部尚书史万宝攻打并攻拔了徐圆朗的陈州。

四月二十七（戊寅），广州贼帅邓文进、隋合浦太守宁宣、日南太守李晙一道来降唐朝。

五月初九（庚寅），瓜州土豪王幹杀了在瓜州造反的原唐瓜州刺史贺拔行威后，投降唐朝。瓜州之乱得以平定。唐高祖不久即任命车骑将军元韶为瓜州道行军总管，以防备突厥。

同时，突厥入寇忻州，但被李高迁打败。

六月初一（辛亥），刘黑闼引来突厥人入寇山东，唐高祖下诏派燕郡王李艺出击。

六月初三（癸丑），吐谷浑入寇洮、旭、叠三州，岷州总管李长卿打败了他们。

六月初五（乙卯），唐高祖派淮安王李神通带兵出击徐圆朗。

六月十七（丁卯），刘黑闼又带着突厥人入寇定州。

秋七月初五（甲申），朝廷为秦王李世民营建弘义宫，让他居住。李世民率军出击徐圆朗，攻下了他的十多座城池，因此威震淮水和泗水一带。杜伏威怕自己长期留在东部而被朝廷猜疑，便请求回到朝廷。李世民觉得淮水和济水一带基本平定，便派淮安王李神通与行军总管任瑰和李世勣留下攻打徐圆朗。七月初六（乙酉），李世民班师回朝。

七月初八（丁亥），杜伏威入朝，唐高祖邀请他登上御榻，和自己并排坐下，拜他为太子太保，仍兼行台尚书令。他把杜伏威留在长安，位居齐王李元吉之上，表示对他特别恩宠。唐高祖还任命阚棱为左领军将军。

早先投降了唐朝的李子通跟亲信乐伯通说：“杜伏威既然回到了长安，而江东尚未平定。我回去收集原来的兵马，可以建立大功。”他俩于是一道逃亡，但到了蓝田关时，被唐朝的官吏捕获，两人都被杀了。

李子通虽然不如李密、窦建德、王世充等人有名，但也算是隋末群雄之一。他是东海丞县人，少年时十分贫贱，以鱼猎为业。居住在乡里里时，他每次见到提着重物的老年人，总要去帮人家提东西。他生性喜好施惠，家里毫无积蓄，但心眼较小，睚眦必报。隋大业末年，有个叫左才相的贼帅，自号博山公，占据齐郡的长白山（今山东邹平南，淄博西北，别于东北长白山），李子通前往归附，靠武功得到左才相的器重。有乡人被贼兵俘获的，李子通总会尽力救护。当时许多贼寇都很残忍，只有李子通十分仁恕，所以归附他的人很多，不到半年，他的部众就多达万人。左才相开始对他猜忌，李子通便率众独立而去，趁机渡过淮水，与杜伏威合并。不久他被隋将来整打败，李子通于是拥众逃奔海陵，又得到二万人，自称将军。当初，宇文化及任命隋将军陈棱为江都太守。李子通率军攻打他。陈棱往南向沈法兴求救，往西向杜伏威请援。他们二人各带兵前来。杜伏威进驻清流，沈法兴保卫杨子，相隔数十里地。李子通的纳言毛文深献计，招募江南人冒称是沈法兴的兵马，夜袭杜伏威。结果杜伏威上了当，恨沈法兴偷袭自己，便也派兵偷袭沈法兴。二人相互猜疑，都不敢先出动去救援陈祾。李子通于是率领全部精锐攻陷江都，陈棱逃到杜伏威那里去了。李子通入据江都，兼并了陈棱的部众，接着僣即皇帝位，国称吴，建元为明政。

丹阳贼帅乐伯通率众万余来降，李子通拜他为尚书左仆射。他接着到庱亭进击沈法兴，杀了他的仆射蒋元超。沈法兴连夜弃城逃跑，李子通于是占有了晋陵地盘。他又俘获了沈法兴的府掾李百药，任命他为内史侍郎，让他负责文翰。他还任命沈法兴的尚书左丞殷芊为太常卿，让他掌管礼乐。于是隋朝郡县以及江南人士大多都来归附于他。后来杜伏威派辅公祏攻陷丹阳，进驻溧水。李子通带兵出击，反而被辅公祏所败。又因为粮食耗尽，李子通只好放弃江都，退保京口，江西的地盘因此尽归杜伏威。李子通又往东跑到太湖，纠集了逃亡散兵，得到二万人，然后到吴郡袭击并打败了沈法兴，然后带领他的官属在余杭定都。东南方的地盘，东至会稽，南至千岭，西至宣城，北至太湖，全都被他占有。

但没多久，杜伏威派部将王雄诞攻打李子通，双方在苏州决战，结果李子通败绩，退保余杭。王雄诞进逼余杭，在城下又进行决战，李子通再次失败。他走投无路，被杜伏威捉了。杜伏威将他连同他的左仆射乐伯通都送到京师长安，占领了他的地盘。唐高祖不但宽恕了他，还赐给他一座住宅和公田五顷，待他非常优厚。但他也像李密那样，最终还是叛逃而死。