李子雄建议杨玄感留一部分兵力继续围攻洛阳城，不求破城，而是防止城中部队与卫玄所部汇合。至于主力，则先西向击破卫玄，然后携破卫玄之势再行返回。
杨玄感最后也只得从之，一旦让樊子盖和卫玄二部合流，形成夹击之势，这仗更没法打了。杨玄感乃留兵一部，交给李子雄继续围攻洛阳城，而他本人则率领四万精锐向西而去。
此时卫玄早就布好了阵势，准备围歼杨玄感。
卫玄将军队布置在金谷（今洛阳西北的金谷园），准备引鱼上钩。
卫玄命人在军中清扫一片场地，祭祀隋文帝说：“刑部尚书、京兆内史臣卫文升，冒昧昭告于高祖文皇帝的神灵：自从皇家承受天命，到现在三十多年，武功文德，渐渐影响海外。杨玄感辜负圣恩，自作蛇豕，蜂飞蚁聚，犯我王师。臣下我两代受恩，一心侍奉国家，统率熊罴之众，志在剿灭逆党。如果社稷长久，应该让杨玄感这些丑类像冰块一样破碎；如果隋朝大势已去，就请让老臣先死吧！”卫玄词气激昂，三军将士莫不流涕呜咽。
一场决战将要在洛阳城西打响。