山西右玉县东北云阳堡）聚众举兵反魏，自称天子，建年号“神嘉”，置署百官，建立起地方民族政权。535年，稽胡灭于东魏；576年，刘蠡生之孙刘没铎趁着北周灭齐的时机趁机复国，次年又被北周所灭。
稽胡人虽然元气大伤，但之后也在山西、陕西等地苟延残喘，甚至到了唐朝时期，稽胡人还先后在绥州等地反叛称帝，最后被夏州都督王方翼配合右武卫将军程务挺剿灭。至此之后，稽胡人逐渐消失于历史的长河中。
这次杨谅起兵，担心军力不足，便征召了一批稽胡人为用。不过这群稽胡人虽然悍勇，但纪律实在太差。杨谅担心这些稽胡人会祸乱河东各地，因此并没有令其出征，而是屯于晋阳城南的山谷一带。
稽胡人为利益卖命，并不忠于杨谅，若是由稽胡人守城，势必不会出现临阵倒戈的现象。
其他诸人也没有好办法，只得同意了这个建议，引稽胡人入晋阳。