根据突变理论,在煤层与岩层关键层复合的基础上,探讨了煤岩复合体失稳破坏的机理。基于势能原理,建立了尖点突变模型,导出其失稳的力学判据及突变时的突变变化。得出了在水平力和垂直力共同控制的空间中系统失稳的分叉集合并分析其突变过程。分析结果表明:系统发生突变的影响因素除了复合体的弹性模量与惯性矩外,主要是水平力,水平力越大,越容易失稳。