转眼之间，时间来到大业末年，隋朝分崩离析，灭亡在即。而程名振也不是当初的流放之人了，他在窦建德手下当普乐县令。任期内政绩突出，盗贼都远而避之，然而窦建德却不能对他量才使用。武德四年，程明振投奔了唐高祖李渊，被授予永宁县令，并分配给他一部分人马，让他去河北开辟新的地盘。程明振到了河北后决计夜袭守备薄弱的邺县，程明振让士卒多置擂鼓呐喊而进，邺县守军一时不知其兵力多少，弃城逃窜，程明振一鼓作气攻下了邺县并俘获了数千人。
然而在回军路上，他发现在俘虏中有90多妇人都流淌着乳汁，想必是家中肯定有待哺的幼子，程明振于心不忍，就悉数放回邺县。此举得到邺县人的好感，获释者设斋以报其恩。武德五年，刘黑闼攻陷洺州，程明振兵少不能抵挡，主动撤退，其母及妻被刘黑闼擒获。刘黑闼用其家属来要挟他投降，程明振不从，并率军截断刘黑闼的粮道，刘黑闼大怒，杀死了他的母亲和妻子。刘黑闼兵败后，程明振要求亲手斩杀刘黑闼以祭奠母亲，他的请求得到李建成的批准。
贞观十八年，李世民御驾亲征高句丽，召程明振来询问方略，程明振的分析鞭辟入里，深得太宗赞赏，李世民当众夸他说：“你有将相之才，朕要对你有所任用。”然而程明振听到太宗的褒奖后一不叩头，二不拜谢，完全失去了君臣之礼。旁边的侍臣都认为他太没有礼节，太宗也假装恼火对他说：“你一个关东的山野村夫，得一刺史便认为富贵至极！竟敢在天子身边言语粗鲁，又复不拜！”只见程明振举止自若的回答：“我本是疏野之臣，未曾亲身恭奉过皇上的垂问，刚才只想着如何对答，所以忘了拜谢。”
李世民感叹道：“房玄龄在我身边二十多年，见到我斥责别人仍就惶恐，程明振未曾见过我一面，我责怪他竟毫无惧色，言语也没有差错，真是天下的奇人。”当即李世民授予他右骁卫将军，平壤道行军总管的职务，率军攻打高句丽。在征讨高句丽的战役中，程明振果然名不虚传，不负众望，攻占沙卑城，在独山打败了高句丽军。因为他一生常常出奇制胜，以少胜多，被誉为唐朝名将。后来又历任洺州、晋州、蒲州刺史及镂方道总管。公元662年，程名振去世，朝廷追赠他为右卫大将军，谥号“烈”。