夜幕降临，隋军大营还是一样地安静，北城墙上千余守军在来回巡逻，而其他三面城墙的守军就稀少得多，尤其南城墙数里长的城墙上只有几十名守军，他们聚在一起烧火取暖，没有人肯去冒着寒风来回巡逻，也没有必要。

在南城墙的东段，这里更是一个守军也没有，这时，城内的甬道上忽然出现了大群黑影，足有百余人之多，他们见城边无人，纷纷奔上城头，为首正是那名老兵，他用绳索拴住城垛，扔下城去，向后招招手，低声喊道：“大家快走！”

黑影一个接一个地猫腰奔向城垛，攀着绳子滑了下去，大家动作迅速，不到一刻钟，一百多人全部下了城，士兵们撒腿就跑，深一脚浅一脚地向黑暗中奔去。