最终，到了武德四年，为了拯救郑王王世充，带兵攻打虎牢关，为秦王李世民所败和俘虏，押解长安处死。
每当历史爱好者读起关于窦建德的故事，总会觉得扼腕叹息。窦建德不同于一般的草莽流寇，这个家伙身上，虽然有桀骜不驯的气质，但是，他待人宽厚、亲政爱民、信守承诺。更为难得的是，在那个封建迷信成风的年代，窦建德是为数不多的“唯物主义者”
为了一个无德行无能力，且背信弃义的小人王世充，窦建德竟率十万主力前往虎牢关，与如日中天的秦王李世民殊死决战。结果，这场恶战成就了李世民的伟业，窦建德本人则被押送到长安砍了脑袋。
十一年辛苦经营的基业，就这样为了一个人品败坏的小人付诸东流，这场仗打得真是要多窝囊有多窝囊。后人在总结这场虎牢关大战之时，都觉得窦大王犯下两个原则性错误：首先，窦建德不该挑起这场战争，王世充这个家伙本就是个丧尽天良的王八蛋，根本不值得窦建德赌上身家性命相救。李世民兵强马壮，正值事业巅峰，窦建德若顾全大局，根本不应该拭其缨锋；其次，就算窦建德有一万个理由出兵，也不应该直取虎牢关，与李世民的主力硬碰硬。若窦建德采纳国子祭酒凌敬的计策，转道进攻太原，搞一出“围魏救赵”，没准能解王世充之围，至少，不会让自己身陷囫囵。
实际上，后人对窦建德仍存在曲解。
其实，窦建德有不得不救王世充的理由，而且，进攻虎牢关也是无奈之举。窦建德被俘后，李世民责备道：“我征王世充，关你何事，你越界而来，冒犯我军士的锋锐！”建德说：“今日，若我不自己来，日后，恐怕有劳你远取。”所以说，以上两点对窦建德原则性错误的总结纯属谬论。
曾有人抱怨美国总统艾森豪威尔支援那些拉丁美洲的独裁国家，甚至，说这些国家不值得援助，但是，艾森豪威尔却依旧慷慨大方地帮助了这些国家。其实，国际政治无外乎就是这么回事儿，不论古今中外，类似的情况大同小异。
王世充虽然是个丧尽天良的王八蛋，但是，他却是个有实力的家伙，他的兵力可以牵制唐军的主力，消除窦建德的后顾之忧。若王世充与唐军僵持不下，窦建德就能获得喘息之机，积蓄力量。就是因为这个原因，窦建德才不得不容忍王世充这个小人盘踞在自己的大后方，这样窦大王才能专心对付大唐在山东的守军，并借机夺取大半个中原。
试想，当时若王世充被唐军干掉，那么，窦建德辖区北方就会面临罗艺。要知道罗艺可是与大唐穿一条裤子的军阀，过早地与罗艺交手，对窦建德来说没有一丁点好处，反而弊病无穷。李世民虽兵强马壮，但在讨伐王世充时还是费了一番手脚的，若窦建德不趁着这个机会与王世充联手攻打李世民，等李世民解决了王世充后积蓄实力，届时等待窦建德的下场岂不是更惨？
至于凌敬的计策更是荒谬，太原是李渊父子的“龙兴之地”，是大唐王朝的“革命根据地”窦建德若想从河北直取太原，起码要率军翻越一座太行山。且不说这段路有多艰难，若唐军及时两面夹击将窦建德堵在太行山上，恐怕窦建德也会回天乏术。更何况，此时的李渊父子已稳居长安，太原的战略地位已不重要，至少不会逼得唐军“救魏”
后来，一个叫刘武周的军阀占领了太原，李氏父子不还是安之若素？
按说，窦建德进攻李世民时，双方的兵力应该差不多，虽然，《新唐书》中着力渲染这场战争李世民以少打多，但毕竟这是唐人的史书，所以，真实性有待考量。
从两军的表现来看，决战之际双方是势均力敌的，不过，窦建德此时刚刚击败了孟海公，又因长途跋涉全军人困马乏，最好的办法应该是就地扎营疏通粮道，与李世民打持久战。如此布局，唐军若撤退，窦建德即可顺理成章地蚕食王世充的地盘，若唐军不撤，战局亦对窦建德有利。可惜的是，窦建德带着疲惫不堪的将士们羊入虎口，遭到李世民的偷袭，最终功败垂成。
常言道“胜败乃兵家常事”，这是以后人眼光说出的话。但是，对于战场上的当事人来说，也许一个小小的失败就会让自己掉了脑袋，关于自己的历史亦戛然而止，再也没有复盘的机会。