后来，张仪当了秦国的宰相，因为和张仪的政治主张不同，公孙衍只好离开秦国，去往魏国。

当时的魏国国力衰退，公孙衍就主张各诸侯国联合起来，一起攻打秦国即合纵，但是这一次的合纵失败了。公孙衍因为这一次的失败，在魏国受到排挤，离开了魏国，前往韩国。在韩国公孙衍担任的职位是宰相，在与秦的作战中，再次失败，只好回到魏国。

但是在魏国的朝廷中，官员们勾心斗角，公孙衍根本没有再次登上政治舞台的机会。根据《韩非子》的记载，公孙衍与魏国的官员张寿积怨很深，田震对公孙衍心怀怨恨，田震就派人将张寿杀了，将杀人的罪扣在公孙衍的头上。魏王听信了小人的话，以为张寿就是公孙衍杀的，就把公孙衍杀了。从这可以看出，公孙衍在最后没有实现自己的理想抱负，最后还含冤而死。

公孙衍作为那一时期的风云人物，他的历史功绩是永不会磨灭的。他所开创的合纵，也将会被后世人记住。因为有公孙衍这样一个人，才能有了那么多次与强大秦国的交锋，才能书写出那么波澜壮阔的历史篇章。