公元619年九月十六（辛巳），唐高祖李渊的小儿子李元吉抛弃并州，刘武周第二天就占领了太原（晋阳）。十月下旬，窦建德攻占黎阳，接着迁都到洺州。同时，王世充派他堂弟王世辩攻占雍丘，杀了唐杞州刺史李公逸。

十一月十四（己卯），刘武周入寇浩州。同时，秦王李世民带兵从龙门利用黄河上的坚冰越过黄河，进驻柏壁，和刘武周的大将宋金刚相持。当时河东各个州县，遭到盗贼的抢掠，几乎没有库粮，当地百姓也都人心惶惶，聚在一道躲进城堡。朝廷征敛租赋，结果没征得多少，因此军中缺粮。李世民发布告向民众解释。百姓历来听说他的好名声，得知李世民亲自作为主帅前来，纷纷前来归附。自近及远，来投奔他的人日益增多，于是他逐渐征收到粮食，充实了军需。李世民于是休兵秣马，只派偏将和裨将找机会到外面劫掠些粮食，大军却坚壁不战。因此刘武周的势力日益衰落。

李世民曾亲自带领轻骑去侦探敌情。随骑四处分散，李世民单独和一个甲士在山丘上睡觉。不久刘武周的部队四面包抄过来。李世民最初没有察觉，刚好有只蛇在追逐老鼠，碰到了那甲士的脸，甲士惊醒过来，发现情况不妙，急忙叫醒李世民，和他一道骑马逃跑。跑了一百多步，他们被贼兵赶上。李世民用大羽箭射杀了追兵领头的骁将，追兵这才退走。

徐世勣想要重新归唐，但担心父亲会因此遇害，便和郭孝恪商量。郭孝恪说：“我新近事奉窦氏，动不动就遭到他的猜疑。所以必须先建立点功勋，取得他的信任后，再想法对付他。”徐世勣听从了他的建议。他带兵袭击王世充的获嘉，攻破城池，还俘获了不少士兵，并将他们献给窦建德。窦建德因此开始信任他。

当初，漳南人刘黑闼，少年时就骁勇狡猾。他和窦建德关系很好，后来成为各路豪杰之一，先后转去事奉郝孝德、李密、王世充。王世充任命他为骑将。他每次见到王世充的作为，总是暗中觉得好笑。王世充派刘黑闼守卫新乡，徐世勣出兵攻打，生擒了他，然后将刘黑闼献给窦建德。窦建德任命他为将军，赐爵为汉东公，并经常派他带领奇兵到处掩杀偷袭，有时还派他潜入敌境，侦查敌人的虚实。刘黑闼往往趁机奋起出击，得胜甚至俘获了敌兵后回来。

十二月二十六（庚申），唐高祖到华山围猎。

唐陕州总管于筠劝永安王李孝基加急攻打吕崇茂，独孤怀恩则请求先制作攻城器具，然后才进军。李孝基听从了他的建议。吕崇茂向宋金刚求救，宋金刚派部将善阳人尉迟敬德和寻相率领大军来到夏县。李孝基里外受敌，因此大败。李孝基、独孤怀恩、于筠、唐俭以及行军总管刘世让都被尉迟敬德俘虏。尉迟敬德名恭，通常用字称呼。

唐高祖征裴寂入朝，责备他兵败，把他交给廷尉的官吏处理，但很快就放了他，对他的恩宠比以往还要优厚。

尉迟敬德和寻相将要回到浍州时，秦王李世民派兵部尚书殷开山和总管秦叔宝等人在美良川设伏攻打并击溃了他们，杀了两千多敌兵。不久，尉迟敬德和寻相暗中率领精骑到蒲坂增援王行本，李世民又亲自带领步骑三千从小路连夜赶往安邑，再次击溃了他们。尉迟敬德和寻相仅仅逃得性命。李世民俘虏了他们几乎所有的部众，重新回到柏壁。

将领们都要求和宋金刚决战，李世民说：“宋金刚孤军深入，他的精兵猛将，全都聚集在这里。刘武周占据太原，靠宋金刚作为屏蔽。他们军中没有积蓄，专靠抢掠才能供应军需，所以利在速战。我关闭兵营，养精蓄锐，先挫败他们的锋芒，然后分兵前往汾、隰一带，冲击他们的心腹要害。他们粮尽计穷，自然就会不战而退。我们就要等待那个时机，所以不宜速战。”

永安壮王李孝基密谋逃归，但被刘武周杀了。

徐世勣又派人去劝窦建德说：“曹、戴二州，户口充实。孟海公窃据这些地方，和郑人（即王世充）貌合神离。如果派大军前去，指日就能攻克了他们。一旦得到孟海公，让他出兵前往徐、兖地区，那时河南即可不战而定。”窦建德觉得有理，便想亲自带兵出征河南，并先派行台曹旦等人带兵五万渡过黄河，让徐世勣带兵三千去和他会合。

武德三年即公元620年春正月，唐将军秦武通到蒲坂攻打王行本。王行本出来迎战，结果失败。他粮尽援绝，想突围出走，但没人愿意跟随他。正月十四（戊寅），王行本开门出降。正月十七（辛巳），唐高祖临幸蒲州，在那里将王行本处斩。秦王李世民带领轻骑到蒲州拜谒唐高祖。宋金刚接着包围绛州。正月二十九（癸巳），唐高祖回长安。

徐世勣密谋等到窦建德到河南时，率军奇袭他的兵营，趁机杀了他，期望得到他父亲以及窦建德的地盘后回归唐朝。刚好遇上窦建德的妻子生孩子，所有他久久没有过来。

曹旦是窦建德的妻兄。他在河南，经常侵扰百姓和部众，因此他下属的将领们无不怨恨他。贼帅魏郡人李文相，号称李商胡，聚众五千多人，占据孟津中城。他母亲霍氏，也擅长骑马射箭，自称霍总管。徐世勣主动去和李商胡结为拜把兄弟，并去拜见李商胡的母亲。他母亲哭着跟徐世勣说：“窦氏无道，怎么能去拥戴他！”徐世勣说：“伯母不必担忧，不出一个月，我们就会杀了他，然后一道去归附唐朝！”徐世勣告辞离去后，李母跟李商胡说：“东海公答应和我们一道对付这贼人。事情久了可能出现差错。何必等待将来，不如尽速把他解决了。”当夜，李商胡召来曹旦的偏裨将领二十三人，设宴招待他们。把他们灌醉了后全杀了。曹旦的别将高雅贤和阮君明还在河北，尚未渡过黄河。李商胡用四艘巨大的船只，去运载等待过河的另外三百曹旦将士。船到河心时，李商胡把他们都杀了。有个兽医水性很好，跳进河里跑了。他游到南岸，急忙去告诉曹旦，曹旦于是严加戒备。李商胡起兵反叛后，马上派人去告诉徐世勣。徐世勣和曹旦连营，郭孝恪劝徐世勣出兵袭击曹旦，但徐世勣犹豫未决。他听说曹旦早已有备，便和郭孝恪带着几十随从骑马投奔唐朝。李商胡又率领精兵二千往北袭击并打败了阮君明。高雅贤收集了残兵败将逃走，李商胡率军追赶，但没有赶上，只好回来了。

窦建德的臣属们都请求他杀了徐世勣的父亲徐盖。窦建德说：“徐世勣是唐的臣子，被我俘虏。他不忘本朝，是位忠臣，他的父亲有什么罪！”因此赦免了他。

正月三十（甲午），徐世勣和郭孝恪抵达长安。曹旦于是攻取了济州，然后回到洺州。

二月初六（庚子），唐高祖临幸华阴。

同时，刘武周派兵入寇潞州，攻陷了长子和壶关。唐潞州刺史郭子武不能抵御，唐高祖于是派将军河东人王行敏去增援他。王行敏和郭子武不和，有人说郭子武将要叛变，王行敏于是杀了郭子武示众。二月十一（乙巳），刘武周重新派兵入寇潞州，但被王行敏打败。

二月十八（壬子），开州蛮族人头领冉肇则攻陷通州。

二月二十（甲寅），唐高祖派将军桑显和等人到夏县攻打吕崇茂。

当初，工部尚书独孤怀恩攻打蒲坂，但长久没有攻下，伤亡很多。唐高祖多次下敕书责备他，独孤怀恩因此心怀怨气。唐高祖开玩笑地跟独孤怀恩说：“你姑姑的儿子（即隋炀帝）都已成为天子了，是否要轮到我舅舅的儿子了？”独孤怀恩是唐高祖舅舅的儿子。他也颇以此自负，有时居然会扼腕叹息道：“我家难道只有女子才能大富大贵吗？”于是和麾下元君宝阴谋反叛。刚好遇上独孤怀恩和元君宝以及唐俭都被尉迟敬德俘虏，元君宝便跟唐俭说：“独孤尚书近来和我密谋大事。如果当时及早解决了，哪还有今天这一耻辱！”当秦王李世民在美良川打败尉迟敬德时，独孤怀恩逃了回来。唐高祖又派他带兵攻打蒲坂。元君宝又跟唐俭说：“独孤尚书逃脱了大难，现在又回到了蒲坂。可以说是王者不死！”唐俭担心独孤怀恩果真实现了他的阴谋，便劝尉迟敬德，请他让刘世让回到长安，劝唐高祖和尉迟敬德连和。尉迟敬德答应了，因此独孤怀恩谋反的事情终于传到了朝廷。当时王行本已经降唐，独孤怀恩占据他的城池。唐高祖正打算渡过黄河，前往独孤怀恩的军营去慰劳他，都已登船了，刚好刘世让赶到。唐高祖听了后大惊失色地说：“我得免一死，难道不是天意吗！”于是派人去召独孤怀恩回来。独孤怀恩还不知道事情已经败露，便乘着轻舟回来。一到长安他就被逮捕，交给廷尉官吏处理，他的党羽也分别被捕。二月二十（甲寅），朝廷杀了独孤怀恩及其党羽。

同时，窦建德出兵攻打李商胡，并杀了他。窦建德在洺州鼓励百姓从事农桑，境内也没有盗匪，商人和行路的人们可以安全地在野外露宿。

突厥的处罗可汗将杨政道迎接到他们那里，立为隋王，并将在北方的中原士人都配给他当臣属。杨政道于是拥有部众万人，还根据隋朝的制度安置百官，定居在定襄。杨政道是隋炀帝次子齐王杨暕的遗腹子。

三月初二（乙丑），刘武周派部将张万岁入寇浩州，李仲文打退了他，还杀死和俘虏了数千人。

同时，朝廷将纳言改为侍中，内史令改为中书令，给事郎改为给事中。三月十一（甲戌），唐高祖任命内史侍郎封德彝为中书令。

王世充的将帅和下属州县来降唐朝的络绎不绝。王世充只好加严了他的律法，一人逃亡反叛，全家不论老少都要处死，但允许父子、兄弟、夫妇告发检举，可以免死。他又让五家联保，有全家逃亡的，四邻如果没有告发，也全将被处死。然而杀人越多，逃亡的人也越多。王世充的法律严峻到甚至连出城砍柴摘野果的人数，都加以限制。官府和民间境况都非常窘迫，他统治的地区民不聊生。他又把宫城当作大监狱，把自己嫉妒的人，连同家属都搬进宫中。他派将领们出讨时，也把他们的家属当人质关在宫中。城里被限制行动自由的经常不下万人，每天都有数十人饿死。王世充又任命朝廷和部省的官员为司、郑、管、原、伊、殷、梁、凑、嵩、毂、怀、德等十二州的营田使。得到这些任命的各部丞和郎，都因为能出了京城而快活得像当了神仙。

三月二十一（甲申），行军副总管张纶在浩州打败刘武周，杀死和俘虏了敌兵一千多人。

同时，西河公张纶和真乡公李仲文率军兵临石州城下，占领那里的胡人领袖刘季真怕了，假装投降。三月二十二（乙酉），唐高祖任命刘季真为石州总管，赐姓李氏，封彭山郡王。

蛮人酋长冉肇则入寇信州，赵郡公李孝恭带兵应战，结果出师不利。李靖带兵八百，袭击并杀了冉肇则，俘虏了五千多人。三月二十六（已丑），李靖收复开州和通州。李孝恭又带兵出击梁帝萧铣下属东平王萧提，杀了他。

四月初三（丙申），唐高祖到华山祭祀，并于四月初九（壬寅）回长安。

同时，朝廷设置益州道行台，益、利、会、鄜、泾、遂六州总管全隶属该道行台。

刘武周多次进攻浩州，但都被李仲文打败。宋金刚军中粮食没了，只好于四月十四（丁未）往北退走。秦王李世民带兵追击。

罗士信包围慈涧，王世充派太子王玄应去救援。罗士信将王玄应刺下马去。王玄应的士兵将他救下，得免一死。

四月十九（壬子），唐高祖任命显州道行台杨士林为行台尚书令，并在两天后加授秦王李世民为益州道行台尚书令。

秦王李世民追击寻相直到吕州，再次击溃了他，并乘胜北进，一昼夜急行军了二百多里，还和敌军作战了数十回合。到了高壁岭时，总管刘弘基拉着他战马的缰绳，劝谏道：“大王打败贼兵，追击到这里，功劳已经足够了。大王还不断深入，难道就不爱惜自己的身子吗！况且士卒也已饥饿疲惫，应当留下在这里修建壁垒，待到大军和粮食都到了后，再继续前进，那时也不晚。”李世民说：“宋金刚黔驴技穷，这才逃走，他的军心早已离散。大功难以成就，却容易功败垂成；机会难以得到，却容易一瞬即逝。所以我们必须乘这一势头彻底消灭了他。如果继续逗留，让他得到新的计谋，重新进行装备，那就攻不下来了。我竭忠保国，哪里还顾得了自己的身子！”于是策马继续前进，将士们也不敢再抱怨饥渴。他们在雀鼠谷追上了宋金刚，一日八战，全部获胜，杀死和俘虏了数万人。夜里，唐军在雀鼠谷的西原住宿。李世民两天没吃饭，三天不解甲。军中只有一只羊，李世民杀了和将士们分享。四月二十三（丙辰），早先被俘的唐陕州总管于筠从宋金刚那里逃回来。李世民于是带兵直趋介休。宋金刚此时还有部众二万。他出了介休的西门，背城布阵，南北长达七里。李世民派总管徐世勣出战。徐世勣的部队稍微退却了点，贼兵乘胜进攻。李世民率领精骑从他们阵后发动袭击，结果宋金刚大败，阵亡了三千人。宋金刚带领轻骑逃走，李世民追了数十里，来到张难堡。唐浩州行军总管樊伯通和张德政原来占据张难堡坚守。李世民抵达垒下，脱下甲胄头盔让他们看清自己。城堡守军看到救兵来了，无不兴奋地大喊起来，高兴得哭了。李世民身边的人告诉他们，秦王已经好几天没吃东西了，城堡里的民众纷纷前来献上浊酒和粗米饭。

尉迟敬德收集残余部众坚守介休。李世民派任城王李道宗和宇文士及前往劝谕，尉迟敬德和寻相于是分别在介休和永安投降了唐朝。李世民得到尉迟敬德，非常高兴，任命他为右一府统军，让他将自己原来的八千部众，和其他军营的士兵参杂起来。屈突通担心他们会发生动乱，急忙向李世民进言，但李世民不听。

刘武周听说宋金刚战败，大为恐惧，于是丢弃了并州，投奔突厥人去了。宋金刚收集了他的剩余部众，想要重新和唐人开战，但将士们都不干了。宋金刚无奈，只好带着亲信随从一百多人骑马逃到突厥人那里去了。

李世民来到晋阳，刘武周手下的仆射杨伏念在城里投降了唐朝。唐俭封存了府库等待李世民。至此，刘武周所占领的州县都并入了唐朝的版图。

不久后，宋金刚阴谋逃到上谷，但被突厥人追获，腰斩而死。岚州总管刘六儿跟从宋金刚在介休，被秦王李世民生擒后杀了。他的兄长刘季真也放弃了石州，跑去投奔刘武周的部将马邑人高满政，但被高满政杀了。

刘武周南寇时，他的内史令苑君璋劝谏他说：“唐主以一州的兵众，直取长安，所向无敌。这其实是天授，并非人力。晋阳以南，道路险要狭隘，大王孤军深入，又没有后继，一旦进战不利，如何回得来？不如北连突厥，南结唐朝，自己南面称孤，这足以成为长远的策略。”刘武周不听，将苑君璋留下守卫朔州。当刘武周失败时，他哭着跟苑君璋说：“没听先生的话，一至于此。”许久之后，刘武周阴谋逃归马邑，结果事情泄漏，也被突厥人杀了。突厥人接着任命苑君璋为大行台，统领他的剩余部众，仍然命令郁射设带兵协助他镇守。

至此，并州的动乱被秦王李世民彻底平定了。