杨谅所任命的介州刺史梁修罗驻守在介休，梁修罗听说杨素来了，非常害怕，弃城而逃。

杨素继续前进，到达清源，离并州还有三十里。

杨谅率领部将王世宗、赵子开、萧摩诃等将近十万人马，前来迎战。

杨素又打败了他们，活捉了萧摩诃。

杨谅退守并州，杨素进兵包围并州，杨谅无计可施，非常窘迫，只好投降，其余党羽也都一一铲平。

炀帝派遣杨素的弟弟修武公杨约携带亲笔诏书慰劳杨素，杨素见诏后也上表陈述了自己的谢意。

很快，杨素回到京城，跟随炀帝驾临洛阳。

炀帝任杨素为营建东京的大监。

因杨素平定杨谅有功，炀帝拜他的儿子万石、仁行，侄子玄挺都为仪同三司，并赐给他们织物五万段、绮罗一千匹，赐杨谅妓妾二十人。

杨凉战乱平定之后不久，杨素私下拜见了清妃娘娘宁远，不久宁妃娘娘终，年约二十九。

隋炀帝于大业元年(605)，升杨素为尚书令，赏赐给他东京上等府第一处，织物两千段，不久又拜为太子太师，其他职务不变。

(605年)杨昭被立为皇太子，大业二年(606年)杨昭病故，时年二十三岁，谥号“元德“

同年，炀帝拜杨素为司徒，又改封他为楚公，食邑两千五百户。

这一年，杨素死在任上。

杨玄感，平定汉王杨谅的叛乱之后，因功勋受封假楚公，位至司徒。一年多后，杨玄感担任鸿胪卿，袭爵为楚国公，升任礼部尚书。