采用三次均匀B样条函数模拟边坡任意形状滑动面，探讨了B样条曲线的端点处理方法和有效滑动面生成策略。将万有引力算法（GSA）与粒子群算法（PSO）两种启发式算法相融合，同时引入雁阵效应、非线性惯性权重进行改进，提出一种新的混合启发式搜索算法（HHA）。该算法增加了粒子的记忆性与群体信息交流功能，协调了全局和局部寻优能力。数值试验表明：HHA能有效克服GSA易陷入局部最小的不足，具有更好的优化精度、效率与稳定性。结合Morgenstern-Price法，对生成的有效滑动面计算安全系数，并以安全系数为目标函数，采用HHA搜索临界滑动面。4道标准考题分析验证发现：三次均匀B样条曲线能合理逼近任意形状临界滑动面；HHA对临界滑动面的搜索优于GSA，对非均质、含软弱夹层及考虑地震效应的复杂边坡均具有适用性。