研究固体中集体激发的相干非线性动力学，有助于揭示电子、自旋与晶格自由度之间隐藏的多体耦合机制，并为超快调控量子材料提供基础。近日，南京大学物理学院张琦课题组与合作者运用光谱学手段，首次实现了层状反铁磁体中磁振子-声子相干三波混频非线性过程的直接观测。研究团队综合运用强场太赫兹二维光谱并结合低温强磁场等极端实验环境，揭示了强场驱动下的磁振子二阶和三阶非线性过程和磁振子-声子非线性三波混频耦合过程；建立了Liouville-space Lindblad动力学模拟框架，揭示了磁-声自由度非线性耦合的机制。这些结果为利用相干非线性实现磁激发与振动激发之间的量子纠缠奠定了基础，并为太赫兹频段的量子调控和混合量子技术开辟了新的途径。

非线性相互作用是产生新效应和新量子态的重要物理机制。在光学领域，和频、差频及参量放大等非线性过程已得到广泛研究，并成为频率转换、超快光学和量子态制备的重要基础。相比之下，当非线性研究从光子拓展至固体中的低能集体激发时，相关认识仍十分有限。磁振子和声子分别承载自旋与晶格的集体运动，尽管其线性响应已得到深入研究，但支配高阶耦合与非平衡量子态演化的非线性动力学仍远未被理解。三波混频是其中最基本的过程之一，即两个集体激发相互作用产生和频或差频，这一过程不仅为操控自旋-晶格耦合提供了重要途径，也可能产生类似量子光学中的压缩与纠缠。然而，固体中不同自由度之间的三波混频过程此前未被直接观测。层状范德华反铁磁绝缘体FePS3具有显著的自旋-晶格耦合、锯齿型（zigzag）反铁磁序和巨大的光学各向异性，为在凝聚态体系中观测这一现象提供了理想平台。

研究团队首先利用强场太赫兹泵浦—光学探测光谱研究FePS3中的相干集体激发。强太赫兹脉冲相干激发自旋和晶格运动，800 nm探测光通过瞬态线性双折射读取其动力学响应。一维光谱清晰分辨出3.7 THz反铁磁磁振子（Mag）以及3.25 THz拉曼声子（Ph3）。其中，Mag与Ph3声子的振幅均随太赫兹磁场呈线性变化，并为进一步研究二者高阶非线性耦合奠定了基础。

实验中最为突出的结果是观察到磁振子-声子差频产生（DFG）信号：在一维光谱中出现了红外透射谱和拉曼谱中均不存在的0.45 THz新模式，其频率精确等于Mag与Ph3声子之差。该模式随温度始终锁定于两者的频率差，且振幅随太赫兹场呈二次标度，证实其内阶非线性起源。研究团队进一步利用双太赫兹泵浦二维相干光谱，直接分辨出两条Mag-Ph3差频路径，并在6.95 THz处观察到相应的和频信号（SFG）。施加9 T磁场后，磁振子及差频峰同步分裂，峰位与能级关系定量吻合。上述结果实现了对相干磁振子-声子三波混频的直接观测，并揭示了FePS3中在线性光谱和弱激发条件下隐藏的高阶自旋-晶格耦合。

图1 a，强场THz泵浦时域相干振荡波形；b，相干振荡对应的频谱，观察到声子和磁振子模式；c，非线性通道二维谱，直接分辨出多个非线性过程；d，磁振子-声子三波混频过程的频率矢量图；e，磁振子-声子三波混频能级示意图。

理论上，团队建立了包含耗散的刘维尔空间Lindblad框架，并在磁振子-声子有效哈密顿量中引入两类三波混频耦合项。实验与模拟的谱特征比较表明，由声子调制主导磁交换作用产生的“两磁振子-一声子”项Xa2Xb，能够定性再现实验中的差频、和频以及二阶和三阶磁振子响应，其第一性原理耦合强度约为17 meV/?。另一类“两声子-一磁振子”通道因自旋轨道耦合较弱而受到显著抑制，因此前者被确立为FePS?中的主导三波混频机制。进一步计算显示，在强驱动下，该非线性可等效实现双模压缩操作，为产生磁振子-声子压缩态和纠缠态提供直接物理路径。为基于反铁磁体系的太赫兹波段Cavity Magnomechanics奠定了基础。

该成果以“Coherent terahertz magnon-phonon three-wave mixing in a layered antiferromagnet”为题发表在期刊《Nature Communications》上。南京大学物理学院博士生李良越、马普物质结构与动力学研究所博士后武娜和南京大学物理学院博士生林正旺为论文的共同第一作者。南京大学物理学院张琦教授与马普所Emil Vi?as Bostr?m为论文的通讯作者。电子科技大学刘富才教授团队提供了高质量单晶。中国科学院物理所综合极端条件实验装置的雒建林教授和汪信波研究员提供了强磁场实验协助。马普所Angel Rubio教授、中国科学院物理所万源教授和南京大学物理学院本科生刘力心提供了理论协助。该工作得到了国家重点研发计划、国家自然科学基金的资助，以及南京大学物理学院、固体微结构物理全国重点实验室和江苏省物理科学研究中心的支持。