Hyperbolic Graph Neural Networks A Review of Methods and Applications

论文地址：https://arxiv.org/pdf/2202.13852

论文附综合资源库：https://github.com/digailab/awesome-hyperbolic-graph-learning

摘要

对于现实世界数据中普遍存在的固有层级结构和复杂关系结构，欧几里得空间中的图表示学习往往难以有效捕捉。而双曲几何具有常负曲率和指数增长的特性，能够自然地适配此类结构。

文章对双曲图学习领域进行了全面综述，并划分为三大类：

1. 基于双曲图嵌入的技术
2. 基于图神经网络的双曲模型
3. 新型范式

同时本文探讨了双曲图学习在多个领域的应用：推荐系统、知识图谱、生物信息学及其他相关场景，充分证明了双曲几何在现实世界图学习任务中的广泛适用性与有效性。

同时文章也指出了推动双曲图学习发展的关键挑战：处理复杂数据结构、设计几何感知的学习目标、实现可信且可扩展的算法部署，以及与基础模型的融合。

1 Introduction

为什么需要双曲空间？ 许多复杂的数据结构具有非欧几里得的底层结构。现实世界的图通常表现出复杂的结构特性，而平坦的欧几里得空间难以很好地捕捉这些特性。例如社会层次结构、生物分类学和指数图谱等许多现实世界地图具有树状结构、幂律度分布和强烈的层级组织特征。在欧几里得空间中往往需要高维嵌入，这不仅会导致计算效率低下，还可能造成固有距离与关系的失真。

双曲空间的优势。

图中为三种常用的双曲空间模型，它们在数学上是同构的。双曲空间存在一个关键的几何特性，即其体积随半径呈指数增长，这使得双曲空间特别适合表示树状图结构，主要体现在：

1. 双曲空间能够实现低失真嵌入，在映射到嵌入空间时能有效保留原始图的拓扑结构，这对于表示无标度或层次结构化数据十分有利；
2. 由于双曲空间的指数距离缩放特性，与欧氏空间中的线性距离相隔相比，同心圆之间的距离间隔朝着边界呈指数增长，使双曲模型能够容纳呈指数扩展的层次结构。因此即使使低维空间，双曲模型也能捕捉复杂的结构信息，这使其适用于资源受限的场景。

论文的主要贡献总结如下：

• 将双曲图学习方法（HGL）分类为：双曲嵌入技术、基于图神经网络的双曲模型和新兴的双曲图学习范式；
• 调查了HGL在四个主要领域的应用：推荐系统、知识图谱、生物信息学和其他新兴场景；
• 指出了HGL中的中的几个关键挑战。

2 预备知识与符号表示

2.1 数学预备知识

流形与切空间。 光滑流形$\mathcal{M}$与黎曼度量$g^\mathcal{M}$相关联。$n$维流形$(\mathcal{M},g^\mathcal{M})$是一种拓扑空间，是二维曲面在高维情况下的推广。

对于流形$\mathcal{M}$中的每一点$\boldsymbol{x}$，切空间$\mathcal{T}_{\boldsymbol{x}}\mathcal{M}$被定义为$\mathcal{M}$在$x$附近的一阶近似，它是一个$n$维向量空间，且与$\mathbb{R}^n$同构。黎曼流形度量$g^\mathcal{M}$在切空间上赋予了一个光滑变化的正定内积：$\langle\cdot,\cdot\rangle:\mathcal{T}_{\boldsymbol{x}}\mathcal{M}\times \mathcal{T}_{\boldsymbol{x}}\mathcal{M}\to\mathbb{R}$，由此可以定义测地距离、角度和曲率。

测低线和诱导距离函数。 对于曲线$\gamma:[\alpha,\beta]\to\mathcal{M}$，$\gamma_i$的最短长度，即测地线，定义为$L(\gamma)=\int^\beta_\alpha\|\gamma'(t)\|_g\,dt$。则$\boldsymbol{u,v}\in\mathcal{M}$的距离为$d_\mathcal{M}(\boldsymbol{u},\boldsymbol{v})=\inf L(\gamma)$，其中$\gamma$是曲线，满足$\gamma(\alpha)=\boldsymbol{u},\gamma(\beta)=\boldsymbol{v}$。

映射与平行移动。 如上图对于点$x\in\mathcal{M}$和向量$\mathcal{T}_{\boldsymbol{x}}\mathcal{M}$，存在唯一的测地线$\gamma:[0,1]\to\mathcal{M}$，其中$\gamma(0)=\boldsymbol{x},\gamma'(0)=\boldsymbol{v}$。指数映射$\exp_{\boldsymbol{x}}:\mathcal{T}_{\boldsymbol{x}}\mathcal{M}\to\mathcal{M}$定义为$\exp_{\boldsymbol{x}}(\boldsymbol{v})=\gamma(1)$,而对数映射$\log_{\boldsymbol{x}}$是$\exp_{\boldsymbol{x}}$的逆映射。平行移动$PT_{\boldsymbol{x}\to\boldsymbol{y}}:\mathcal{T}_{\boldsymbol{x}}\mathcal{M}\to\mathcal{T}_{\boldsymbol{y}}\mathcal{M}$实现了从点$\boldsymbol{x}$刀点$\boldsymbol{y}$的移动，并保持度量张量不变。

2.2 双曲空间中的等距模型

存在多个等价的双曲模型，如庞加莱球模型，洛伦兹模型和克莱因模型，它们具有不同的特征，但在数学上是等价的。

def 1（庞加莱球模型） 在负曲率（$c<0$）的情况下，庞加莱球模型被定义为一个黎曼流形$(\mathcal{B}^n_c,g^\mathcal{B}_{\boldsymbol{x}})$，其中$\mathcal{B}^n_c=\{\boldsymbol{x}\in\mathbb{R}^n:\|\boldsymbol{x}\|^2<-\frac{1}{c}\}$是一个半径为$\frac{1}{\sqrt{|c|}}$的$n$为开球。其度量张量$g^\mathcal{B}_{\boldsymbol{x}}=(\lambda^c_{\boldsymbol{x}})^2g^E$，即所谓的庞加莱度量，其定义使得在双曲距离中，更靠近球边界的点“更远”，其中$\lambda^c_{\boldsymbol{x}}=\frac{2}{1+c\|\boldsymbol{x}\|^2_2}$，$g^E$是欧几里得度量。

def 2（洛伦兹模型） 在负曲率（$c<0$）的情况下，洛伦兹模型（也称为双曲面模型）将$n$维双曲空间定义为嵌入在$(n+1)$维闵可夫斯基空间中的双叶双曲面的上叶。闵可夫斯基空间配备了闵可夫斯基内积$\langle\boldsymbol{x},\boldsymbol{y}\rangle_\mathcal{L}=-x_0y_0+\sum^n_{i=1}x_iy_i$。双曲面被定义为黎曼流形$(\mathcal{L}^n_c,g_{\boldsymbol{x}}^{\mathcal{L}^n_c})$，其中$\mathcal{L}^n_c=\{\boldsymbol{x}\in\mathbb{R}^{n+1}:\langle\boldsymbol{x},\boldsymbol{x}\rangle_\mathcal{L}=\frac{1}{c}\}$，它的度量张量$g_{\boldsymbol{x}}^{\mathcal{L}^n_c}=\frac{1}{|c|}\cdot\text{diag}([-1,1,\dots,1])_n$。

def 3（克莱因模型） 在负曲率（$c<0$）的情况下，克莱因模型（也称为射影模型）将$n$维双曲空间表示为$\mathbb{R}^n$中的开单位球，类似于庞加莱球。克莱因模型通过从原点发出的射线将$\boldsymbol{x}\in\mathcal{L}^n_c$映射到超平面$x_0=\frac{1}{\sqrt{|c|}}$得到。形式上克莱因模型定义为$\mathcal{K}^n_c=\{\boldsymbol{x}\in\mathbb{R}^n:\|\boldsymbol{x}\|^2<-\frac{1}{c}\}$。与庞加莱球不同的是，克莱因模型的测地线由直线段表示。

def 4（等距同构） 上述三个模型在几何上都是同构的。对于负曲率$c(c<0)$，节点$\boldsymbol{x}=[x_0,x_1,\dots,x_n]\in\mathcal{L}^n_c$与其唯一对应的节点$\boldsymbol{b}=[b_0,b_1,\dots,b_{n-1}]\in\mathcal{B}^n_c$之间的双射由下式给出：

$$p_{\mathcal{L}^n_c\to\mathcal{B}^n_c}(\boldsymbol{x})=\left[\frac{x_1}{x_0+\sqrt{\frac{1}{|c|}}},\dots,\frac{x_n}{x_0+\sqrt{\frac{1}{|c|}}}\right],\tag{1}$$

$$p_{\mathcal{B}^n_c\to\mathcal{L}^n_c}(\boldsymbol{b})=\left[\frac{1+|c|\|\boldsymbol{b}\|^2}{\sqrt{|c|}(1-|c|\|\boldsymbol{b}\|^2)},\frac{2\boldsymbol{b}}{1-|c|\|\boldsymbol{b}\|^2}\right].\tag{2}$$

同时节点$\boldsymbol{x}=[x_0,x_1,\dots,x_n]\in\mathcal{L}^n_c$与其唯一对应的节点$\boldsymbol{k}=[k_0,k_1,\dots,k_{n-1}]$之间的双射由下式给出：

$$p_{\mathcal{L}^n_c\to\mathcal{K}^n_c}(\boldsymbol{x})=\left[\frac{x_1}{x_0},\dots,\frac{x_n}{x_0}\right],\tag{3}$$

$$p_{\mathcal{K}^n_c\to\mathcal{L}^n_c}(\boldsymbol{k})=\left[\frac{1}{\sqrt{|c|(1-|c|\|\boldsymbol{k}\|^2)}},\frac{\boldsymbol{k}}{\sqrt{1-|c|\|\boldsymbol{k}\|^2}}\right].\tag{4}$$

每一种双曲模型都有独特的计算和几何优势，分别适用于不同场景。

庞加莱球具有共形性，即相交曲线的角度与欧几里得表示中的角度保持一致。使其在直观理解双曲几何方面具有视觉上的优势，并简化了涉及角度关系和旋转的几何运算。

洛伦兹模型通常被认为是双曲空间中最自然或最本质的表示，因为其几何结构直接源于闵可夫斯基内积。这种特性简化了平行移动和指数映射等基本集合运算的定义，使其在理论分析和算法实现中具有计算优势。

克莱因模型将测地线简化为直线段，便于高效地计算距离和规划路径。但其不具备共形性，角度相较欧氏几何会发生扭曲。此模型在射影几何以及理解双曲空间地整体结构方面非常有用。

以下使用$\mathcal{H}$来表示适用全部三个模型的情况。

3 双曲图表示方法

3.1 双曲初始化

考虑一个图$\mathcal{G=(V,E)}$，顶点集为$\mathcal{V}$，边集为$\mathcal{E}$。对于每个顶点$i\in\mathcal{V}$，其$n$维输入节点特征记为$\boldsymbol{x}_i^E$，位于欧几里得空间中，其中上标$^E$表示欧几里得空间。为了表示$\boldsymbol{x}$处的切向量状态和双曲空间，我们使用上标$^{\mathcal{T}_{\boldsymbol{x}}}$和$^{\mathcal{H(B/L/K)}}$。

双曲嵌入通过两个主要步骤：在双曲空间中直接初始化，然后通过指数映射从欧氏空间投影。欧几里得节点特征$x^E$通常来源于三个主要渠道：预训练嵌入、随机采样策略和one-hot编码表示。

预训练嵌入。 利用已在其他任务中与训练好的嵌入作为初始特征。当存在固有节点属性时，节点特征也可以直接从这些属性中获取，使模型利用结构信息时也利用显式特征。HyperLLM从文本描述中提取语义层次结构，生成天然适配双曲几何的父子结构初始嵌入。

随机采样。 当预训练特征或节点属性不可用时，通过随机分布生成初始特征。标准方法从均匀分布或高斯分布中采样，简单且无需先验知识。更复杂的变体利用特定领域的先验知识HGCH，利用庞加莱空间的共形特性，为推荐系统提出幂律初始化：

其中$n_i$表示节点频率，$a$控制初始化规模，$b$为幂律分布的参数，用于更好捕捉层次结构。

one-hot编码。 在需要明确保留节点身份的场景中，每个节点有一个独特的one-hot编码向量表示，向量维度等于图中节点总数，确保了节点的完全可区分性。适合没有外部特征、从零开始学习嵌入时使用。

通过上述方法获得欧氏节点特征$\boldsymbol{x}^E$后，将它们映射到双曲空间利用其几何特性。

对于庞加莱球模型：

其中$\boldsymbol{x}^E$被解释为原点处切空间中的向量，即$\boldsymbol{x}^E\in\mathcal{T}_{\boldsymbol{o}}\mathcal{B}^n$。

洛伦兹模型因嵌入闵可夫斯基空间需要额外考虑，由于原点处的切向量必须满足正交性约束，$\boldsymbol{x}^E$增加了一个零时间分量：$\boldsymbol{x}^{\mathcal{T}_{\boldsymbol{o}}}=(0,\boldsymbol{x}^E)$，来确保$\langle0,\boldsymbol{x}^{\mathcal{T}_{\boldsymbol{o}}}\rangle_\mathcal{L}=0$，投影过程如下：

此外还可通过伪极坐标投影实现等价映射。

这种初始化确保了节点表示在双曲空间内具有几何一致性，为后续层在保留双曲几何有益特性的同时学习和传播信息奠定了坚实基础。

3.2 双曲图嵌入

3.2.1 基于距离的方法

基于距离的双曲嵌入利用双曲距离度量对图结构进行编码，通过调整节点在双曲空间中的几何位置，使节点间的双曲距离与原始图中的关系相似度保持一致。借助双曲空间 “中心到边界呈指数扩张” 的特性，将根节点置于空间中心附近，子节点向边界分布，从而以低失真保留树状或层级化的图拓扑。

PoincaréEmb验证了庞加莱球模型在树状符号数据上的有效性，其损失函数定义如下：

采用基于双曲距离的softmax损失，其中$\mathcal{D}$为正样本对集合，$\mathcal{N}(\boldsymbol{x})$为节点$\boldsymbol{x}$的负样本集合，$d^c_\mathcal{B}$表示庞加莱球模型中曲率为$c$的双曲距离。这种方法在 WordNet 等层级数据集上，相较于欧几里得方法实现了数量级的性能提升。

由于庞加莱球模型在计算边界节点的距离时易出现数值溢出，后续工作转向了洛伦兹模型：LorentzEmb：直接采用洛伦兹距离度量节点相似度；LorentzDL：引入平方洛伦兹距离，使质心计算可通过闭形式求解，损失函数如下：

其中$d^c_\mathcal{L}$为洛伦兹模型的双曲距离，平方距离$(d^c_\mathcal{L}(\boldsymbol{x}^\mathcal{L},\boldsymbol{y}^\mathcal{L}))^2=\frac{2}{c}-2\langle\boldsymbol{x}^\mathcal{L},\boldsymbol{x}^\mathcal{L}\rangle_\mathcal{L}$。洛伦兹空间中，父节点的欧几里得范数天然小于子节点，这与层级结构的 “中心 - 边界” 分布完全契合，无需额外约束即可编码层级关系。

GuMuRP提出乘积流形框架，避免单一曲率无法适配异质结构的问题。方法融合了双曲空间、欧氏空间和球面空间，为不同拓扑结构的子图分配专属几何空间，通过任务驱动的曲率分配策略，灵活适配知识图谱补全、注意力机制等场景，在异构图上的性能显著优于单一几何模型。

3.2.2 基于角度的方法

基于距离的方法在建模层级结构方面能力突出，但往往难以直接表示偏序关系和蕴含关系。一类基于角度的方法引入了双曲锥面，利用双曲锥面或双曲区域的几何特性来表示实体的 “范围” 或 “影响域”，从而自然地编码传递性和不对称性。

HECone将层级关系视为由庞加莱模型内一系列嵌套得到测地线凸锥所定义的偏序关系。在向量空间中，顶点位于原点的凸锥$S$被定义为对非线性组合封闭的集合。即对于任意两个向量$v_1,v_2\in S$，以及任意非实数$\alpha,\beta\geqslant0$，它们的线性组合$\alpha v_1+\beta v_2$同样属于$S$。研究指出利用指数用设构建双曲锥面：以固定点$x$处切空间$\mathcal{T}_x\mathcal{M}$中的任意锥面$S\subseteq\mathcal{T}_x\mathcal{M}$为基础，将其映射到集合$\mathfrak{S}_x\subset\mathcal{M}$中：

为避免复杂的锥面相交运算，并确保其容量随空间维度呈指数级增长，将角度锥面构建于庞加莱球内，这些角度锥面满足四个直观特性：对称性、旋转不变性、锥面孔径函数的连续性和嵌套角度锥面的传递性。HECone给出了角度锥面的闭式解：$\forall \boldsymbol{x,y}\in\mathcal{B}^n\setminus\mathcal{B}^n(O,\epsilon)$，半直线$(xy$与$(Ox$之间的夹角定义为：

则该角度等于：

则庞加莱蕴含锥的等价表达式为：

其中$\psi(x)=\arcsin(K\frac{1-\|x\|^2}{\|x\|})$为锥面孔径函数，$K$为常数。相应的损失函数定义为：

其中$\mathcal{T}$和$\mathcal{N}$分别表示正样本集和负样本集，$\mu$为常数间隔。

ConE模型将知识图谱三元组$(h,r,t)$的嵌入空间表示为$d$个二维双曲平面的乘积空间。对于实体$h$，$h=(h_1,\dots,h_d)$，其中$h_i\in\mathcal{B}^2$表示第$i$个二维双曲圆锥的顶点。ConE模型采用旋转变换$f_1$来建模非层级属性，并采用变换$f_2$来建模层级属性：

其中，$s_i,\theta_i$分别对应缩放和旋转参数，$G(\theta_i)$为吉文斯旋转矩阵：

$\overline{h}_i$表示$h_i$在其切空间中的单位向量：

在此基础上引入角度损失：

可通过双曲掩码$m$对嵌入子空间进行划分，其中掩码$m$的每个元素$m_i\in\{0,1\}$。当$m_i=1$时，表示在第$i$个双曲平面中强制实施圆锥包含关系。该设计使 ConE 模型能够通过角度圆锥公式，在嵌入空间的特定子空间内施加局部约束，从而助力双曲圆锥在异构图建模中的有效应用。

在偏序嵌入框架的基础上进一步泛化，HSCone模型提出了“阴影圆锥”，从天体投射的影子中汲取灵感，将偏序关系建模为光源发出的光线被遮挡后形成的阴影圆锥。方法提出了本影圆锥（Umbral Cone）和半影圆锥（Penumbral Cone）。相较于较简单的基于圆锥的方法，此方法在捕捉偏序内部复杂关系时具备更高的灵活性，有望减少嵌入失真，并提升蕴含关系预测的准确性。

3.2.3 基于圆盘的方法

基于圆盘的方法将节点的表示形式升级为双曲圆盘或区域，能捕捉到更复杂的拓扑结构与关系，适用于处理具有指数级增长父子节点的复杂图。

HdiskEmb。设实体集合为$C=\{c_i\}^N_{i=1}$，其偏序关系为$\preceq$，准度量空间为$(X,d)$。圆盘嵌入是一种映射：$c_i\mapsto(\boldsymbol{x}_i,r_i)$，其中$x_i$为双曲圆盘的中心，$r_i$为半径。$c_i\preceq c_j$当且仅当$(\boldsymbol{x}_i,r_i)\sqsubseteq(\boldsymbol{x}_j,r_j)$（实体$c_i$是$c_j$的下位概念或可达前驱当且仅当圆盘$i$完全包含于圆盘$j$）。双曲空间的指数体积增长特性可自然容纳圆盘的 “嵌套与扩展”—— 层级越高的节点，其对应圆盘的半径越大、覆盖范围越广，能轻松包含所有下位节点的小圆盘，避免了欧氏空间中嵌套结构易出现的维度爆炸或失真问题。定义两个圆盘$(\boldsymbol{x}_i,r_i),(\boldsymbol{x}_j,r_j)$的突出参数（protrusion parameter）$l_{ij}=l(\boldsymbol{x},r_i;\boldsymbol{x}_j,r_j)=d(\boldsymbol{x}_i,\boldsymbol{x}_j)-r_i+r_j$，若$l_{ij}\leq0$则圆盘$i$包含与圆盘$j$，否则无包含关系。损失函数：

$\mathcal{T},\mathcal{N}$为正负样本对集合，$\mu$为边际常数，$h_+(x)=\max(0,x)$。HDiskEmb 将此前的 “蕴含圆锥（entailment cones）” 和 “序嵌入（order embeddings）” 统一为双曲圆盘嵌入的特殊情况 —— 例如，当圆盘半径固定且中心沿特定方向排列时，可退化为角度基方法中的圆锥结构；当半径趋近于 0 时，可退化为距离基方法中的点嵌入，体现了更强的表示泛化性。

3.3 基于图神经网络的双曲模型

3.3.1 基于切空间的模型

投影——计算——回投影

基于切空间的模型在双曲场景下实现了三项基础操作：双曲特征变换、双曲邻居聚合与非线性激活。

双曲特征变换。 特征变换通常是在节点嵌入从双曲流形映射到切空间后执行的。

对于庞加莱球模型中的节点嵌入$\boldsymbol{x}^\mathcal{B}\in\mathcal{B}^n_c$与变换矩阵$\mathbf{W}\in\mathbb{R}^{d\times n}$，矩阵-向量乘法定义为：

洛伦兹模型的节点嵌入$\boldsymbol{x}^\mathcal{L}\in\mathcal{L}^n_c$需满足特定内积约束$\langle\boldsymbol{x}^\mathcal{L},\boldsymbol{x}^\mathcal{L}\rangle_\mathcal{L}=\frac{1}{c}$，直接套用上述公式会破坏该约束。补充0时间分量，确保满足内积约束。

偏置加法解决了偏置与节点嵌入不在同一切空间的问题，通过平行传输将偏置从原点切空间搬运到节点嵌入的切空间，再完成加法运算：

$\boldsymbol{b}^\mathcal{H}$是双曲空间中的偏置，$P^c_{\boldsymbol{o\to x}}$代表平行传输。

双曲邻居聚合。 分为邻居权重计算和均值聚合计算两步骤。直接对双曲嵌入做线性平均运算会破坏双曲流形的曲率约束，会导致结果偏离流行，文档提出切向均值计算的方法，先投影到切空间做线性聚合再回投影到双曲流形：

$\boldsymbol{x}^\mathcal{H}_j$为邻居节点$j$在双曲空间中的嵌入，$\mathcal{N}_i$为目标节点$i$的邻居集合，$\alpha_{ij}$为邻居节点的权重。

非线性激活。 可采用与矩阵-向量乘法相同的思路实现：

其中$l$表示第$l$层。对于洛伦兹模型，存在一种更精确的方式，通过利用space-like features完成计算。

3.3.2 全双曲模型 Fully Hyperbolic Models

直接在双曲流形上执行，避免向切空间进行重复投影。

双曲特征变换。

对于庞加莱球模型，采用旋量空间（Gyrovector Space）是一种理想选择。旋量空间是欧几里得向量空间基于莫比乌斯变换向双曲模型的推广。针对庞加莱球模型中的节点嵌入，矩阵$\mathbf{W}$与输入$\boldsymbol{x}^\mathcal{B}$之间的莫比乌斯向量乘法定义为：

偏置加法通过莫比乌斯加法实现：

对于洛伦兹模型，[59]定义了一种新的矩阵特征变换：

其中$\mathbf{W}\in\mathbb{R}^{n+1}$，$\mathbf{\widehat{M}}$是变换子矩阵，起到旋转矩阵的作用。$0$是零列向量，$\mathbf{I}$是单位矩阵，该方法通过$\mathbf{\widehat{M}}$定义矩阵$\mathbf{W}$。此变换满足洛伦兹约束，设变换结果为$\boldsymbol{y}$，则：

由此推导出变换结果$\boldsymbol{y}$仍处于洛伦兹模型中。近期研究指出，上述线性变换仅考虑了特殊的旋转操作，未涉及推进操作，下列是推导出的通用变换方法：

其中$\phi(\mathbf{M}\boldsymbol{x,v})=\frac{\lambda\sigma(\boldsymbol{v^\top x}+b')}{\|\mathbf{M}h(\boldsymbol{x}+b)\|}\mathbf{M}h(\boldsymbol{x}+b)$，$\sigma$为sigmoid函数，$b,b'$为偏置项，$\lambda>0$用于控制缩放范围，$h$为激活函数。

双曲邻居聚合。

实现均值聚合有三种典型方式：爱因斯坦中点（Einstein midpoint）、洛伦兹质心（Lorentzian centroid）和默比乌斯旋中点（Möbius gyromidpoint）。

1. 爱因斯坦中点：基于克莱因坐标构建，借助同构双射关系，适用庞加莱球模型和洛伦兹模型：

   $$AGG(\boldsymbol{x}^\mathcal{H}_i):= \begin{cases} \overline{\boldsymbol{x}}^\mathcal{K}_j=p_\mathcal{H\to K}(\boldsymbol{x}^\mathcal{H}_j) \\ \boldsymbol{m}^\mathcal{K}_i=\sum_{j\in\mathcal{N}_i}\gamma_j\overline{\boldsymbol{x}}^\mathcal{K}_j/\sum_{j\in\mathcal{N}_i}\gamma_j \\ \boldsymbol{x}^\mathcal{H}_i=p_{\mathcal{K\to H}}(\boldsymbol{m}^\mathcal{K}_i) \end{cases},\tag{33}$$

   其中$p_\mathcal{M_1\to M_2}$表示从空间$\mathcal{M}_1$到$\mathcal{M}_2$的投影映射，$\gamma_j=(1-\|\overline{x}^\mathcal{K}_j\|^2)^{-1/2}$为洛伦兹因子。

2. 洛伦兹质心法：专为洛伦兹模型设计：

   $$AGG(\boldsymbol{x}^\mathcal{L}_i):=\frac{\sum_{j\in\mathcal{N}_i}\alpha_{ij}\boldsymbol{x}^\mathcal{L}_j}{\sqrt{c}|\|\sum_{j\in\mathcal{N}_i}\alpha_{ij}\boldsymbol{x}^\mathcal{L}_j\|_\mathcal{L}|},\tag{34}$$

   $\alpha_{ij}$表示来自邻居节点的权重。

3. 默比乌斯旋中点法：是庞加莱模型在旋量空间中计算均值的闭式表达式：

   $$AGG(\boldsymbol{x}^\mathcal{B}_i;\alpha)=\frac{1}{2}\oplus\left(\sum^N_{i=1}\frac{\alpha_i\gamma_i}{\sum^N_{j=1}\alpha_j(\gamma_j-1)}\boldsymbol{x}^\mathcal{B}_i\right)\tag{35}$$

   其中，$\alpha=(\alpha_1,\dots,\alpha_N)$为每个样本$\boldsymbol{x}^\mathcal{B}_i$对应的权重，$\gamma_i=\dfrac{2}{\|\boldsymbol{x}^\mathcal{B}_i\|^2}$。

上述三种质心均可描述为 “校准平方距离加权和” 的极小化求解结果。

非线性激活。

根据洛伦兹模型与庞加莱球模型之间的流形保持特性，我们可将洛伦兹特征转换为庞加莱特征，并在庞加莱球模型中实现非线性:

3.3.3 邻居聚合机制

以中心节点$i$为例，假设$N(i)$表示节点$i$的直接一跳邻居，且$j$是$N(i)$中的元素。

1. 基于结构信息的权重计算：邻居权重可基于节点度数定义：

   $$\alpha_{ij}=\frac{1}{\sqrt{\tilde{d}_i\tilde{d}_j}},\tag{37}$$

   其中$\tilde{d}_i=d_i+1$，$d_i$为节点$i$的度数。（类似GCN）

   此外，邻居权重也可通过Olivier Ricci曲率定义，该曲率用于描述局部邻居对偏离 “平坦” 状态的程度：

   $$\alpha_{ij}=\text{softmax}_{j\in N(i)}(\text{MLP}(\kappa_{i,j})),\tag{38}$$

   MLP表示多层感知机，曲率$\kappa$反映节点$i$的局部结构特征，通过最优传输方法计算。

2. 基于特征信息的权重计算：

   $$\alpha_{ij}=\text{softmax}_{j\in N(i)}(\text{LeakReLU}(\mathbf{W}^T[\boldsymbol{x}^\mathcal{T_o}_i\|\boldsymbol{x}^{\mathcal{T_o}}_j])).\tag{39}$$

   类似GAT

3. 基于双曲距离的权重计算：

   $$\alpha_{ij}=\text{softmax}_{j\in N(i)}(-d^c_\mathcal{H}(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j)).\tag{40}$$

   还可以引入多头注意力：

   $$\alpha_{ij}=\text{softmax}_{j\in N(i)}(-\sqrt{\sum^K_{k=1}d^c_\mathcal{H}(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j)}).$$

   使用平方距离：

   $$\alpha_{ij}=\text{softmax}_{j\in N(i)}(-d^c_\mathcal{H}(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j)^2).\tag{41}$$

   更复杂的形式：

   $$\alpha_{ij}=f(-\beta d^c_\mathcal{H}(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j)-\gamma).\tag{42}$$

4. 基于双曲锥的权重计算双曲锥通过 “在双曲锥定义的层级结构中，两点最低公共祖先的深度” 来放大两点间的差异:

   $$\alpha_{ij}=f(d^c_\mathcal{H}(\text{sup}_2(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j),\mathcal{S}))\tag{43}$$

   其中$\text{sup}_2$表示同时包含$\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j$的最小高度锥的顶点，$\mathcal{S}$表示所有层级结构的根节点，$f$为用户定义的单调增函数。

5. 特征信息与双曲距离的融合:

   $$\alpha_{ij}=\text{softmax}(\text{LeakReLU}(\mathbf{W}^T[\boldsymbol{x}^\mathcal{T_o}_i\|\boldsymbol{x}^{\mathcal{T_o}}_j]\times d^c_\mathcal{H}(\boldsymbol{x}^\mathcal{H}_i,\boldsymbol{x}^\mathcal{H}_j) ).\tag{44}$$

6. 特征信息与结构信息的融合:

   $$\alpha_{ij}=\text{softmax}(\text{LeakReLU}(\mathbf{W}^T[\boldsymbol{x}^\mathcal{T_o}_i\|\boldsymbol{x}^{\mathcal{T_o}}_j]))\times \frac{1}{\sqrt{\tilde{d}_i\tilde{d}_j}}.\tag{45}$$

3.3.4 Overall View

通常，一个统一的双曲图卷积层可表示为：

$\otimes^{c,\mathcal{H}},\;\oplus^{c,\mathcal{H}}$分别表示双曲矩阵乘法和加法运算。

基于切空间的方法因其 “混合计算” 的本质而存在固有局限性。首先，在流形与其切空间之间反复使用指数映射和对数映射会产生显著的计算开销，尤其是在深层架构或大规模图中，这些映射操作的开销会随着网络层数的增加而累积。其次，由于切空间仅能对弯曲流形进行局部线性近似，反复投影可能会引入几何失真，这种失真在高曲率区域或信息沿较长测地线传播时尤为明显。

与之相反，全双曲模型通过完全在弯曲空间内执行所有操作，在整个计算过程中保持了几何保真度。但这种几何一致性的代价是数学复杂度与计算复杂度的提升：这类方法需要借助非欧几里得黎曼几何，在弯曲空间中重新定义核心操作（如聚合、注意力机制等）。尽管全双曲方法在理论上具有更强的表达能力，但其数学推导往往错综复杂，计算需求也更高，因此稳定性与效率仍是该研究方向中亟待解决的关键挑战。

3.4 新兴的双曲图学习范式

3.4.1 基于扩散的双曲表示

HGDM：首个将扩散模型适配到双曲空间的图生成方法，用双曲噪声替代欧几里得噪声。采用 “包裹正态分布”（Wrapped Normal Distribution）作为双曲空间的噪声分布 —— 这是正态分布在弯曲流形上的自然推广，可避免噪声注入时破坏双曲空间的曲率特性。以庞加莱球模型为例：

$d^c_p$为庞加莱空间中的距离。

借鉴欧几里得扩散的两种经典策略——方差爆炸（VE）和方差保持（VP），并将其适配为双曲空间中的随机微分方程（SDE）。通过这两种策略，模型可在任意时间步$t$从原始图$\overline{G}_0$生成带噪图$G_t$，且始终保持双曲几何约束。

训练阶段学习两个得分函数（score function）：$s_{\theta,t}$（用于节点特征去噪）和$S_{\phi,t}$（用于邻接矩阵去噪），目标是最小化预测得分与真实得分的差异；生成阶段采用 “预测-校正（PC）采样”，从纯噪声逐步去噪为结构化图，全程确保节点和边的表示位于双曲流形上。

HypDiff

基于扩散的双曲表示方法解决了传统图生成的两大核心问题：

1. 几何适配性：通过双曲噪声分布和曲率修正，确保生成过程不脱离双曲流形，避免欧几里得扩散对层级图的结构失真；
2. 效率与可控性：HypDiff 的 latent 空间策略大幅降低计算成本，而各向异性约束则让生成过程更贴合图的局部 - 全局结构（如分子图的原子层级、社交网络的社区层级）。

3.4.2 双曲图对比学习

将对比学习扩展到双曲空间会带来独特的机遇与挑战——双曲空间的弯曲几何特性从根本上改变了增强策略的设计逻辑和底层对比目标的定义方式。

几何增强策略。利用不同双曲模型之间的数学同构性，作为天然的增强策略。HGCL将洛伦兹模型和庞加莱球模型视为统一底层图结构的互补视图。该方法并非对图进行人工扰动，而是充分利用了一个关键特性 —— 对于相同的双曲关系，不同双曲模型能提供不同的计算视角和几何视角。通过对比目标实现这些 “双几何视图” 间表示的对齐，该方法既能融合不同双曲模型的计算优势，又能借助自监督学习提升表示质量。

表示质量保持。双曲空间同样存在当特征表示收敛到低维子空间，导致模型的表达能力受到严重限制低分问题。HyperGCL将对比目标拆解为对齐性和均匀性两个部分。引入了两种均匀性约束：

• 节点级均匀性（leaf-level uniformity）：确保层级结构中叶节点的表示具有多样性；
• 高度级均匀性（height-level uniformity）：确保不同层级间节点的表示保持多样性。

该方法既能保留双曲嵌入中固有的层级结构，又能维持有效下游任务所需的表示多样性，从而实现表示质量的保持。

层级结构利用。HGCR将双曲对比学习应用于基于会话的推荐任务：首先将用户会话转化为洛伦兹双曲空间的有向图，融合通过自适应双曲注意力捕捉会话中序列依赖关系，并在对比目标中引入双曲测地线距离以保留层级关系。双曲空间的指数距离缩放特性能够自然适配用户行为模式和物品分类体系中固有的层级结构，从而提升推荐任务的性能。

双曲图对比学习与传统对比学习方法有显著区别：它将几何结构直接融入学习目标。该类方法能够同时保留局部邻域信息和全局层级关系，从而学习到更精细的特征表示 —— 这种表示既能捕捉细粒度的相似性（fine-grained similarities），又能刻画粗粒度的结构模式（coarse-grained structural patterns）。在需要理解层级结构的任务（如知识图谱中的链接预测、分类网络中的节点分类）上，这些双曲对比学习方法展现出了优越的性能。

3.5 优化方法

黎曼优化。 将基于梯度的算法适配到弯曲流形。

• 黎曼随机梯度下降：先将梯度映射到切空间，再通过指数映射更新参数
• 自适应黎曼优化变体：Riemann Adam、Riemann Adagrad，引入自适应学习机制。

欧几里得优化：将所有可学习参数保留在欧几里得空间中，仅在正向传播计算过程中融入双曲几何特性。在参数优化阶段使用Adam、Adagrad等传统优化器更新参数；在推理计算阶段通过双曲操作将欧几里得参数转化为双曲表示，实现几何变换。此方法与现有学习框架兼容、计算效率高。但缺点在于，其优化动态受限于欧几里得几何，可能导致模型无法充分利用双曲空间在表示层级结构时的指数容量优势。

混合优化。对关键双曲组件选择性应用黎曼优化，对辅助参数采用欧几里得优化。节点嵌入作为核心双曲组件，使用黎曼方法在双曲空间内优化；注意力权重、变换矩阵、偏置项等辅助参数保留在欧几里得空间，通过标准优化器更新。

4 应用

双曲空间具备以极小失真度对复杂、层级化且无标度结构（scale-free structure）进行建模的固有能力，这使其成为处理现实世界数据的理想选择——此类数据往往呈现出上述非欧几里得特性。双曲空间的负曲率特性可自然适配指数级扩张的结构，因此特别适合为欧几里得几何难以刻画的复杂图建模，例如推荐系统、知识图谱和生物网络中的图结构。

4.1 推荐系统

推荐系统通过二部图（bipartite graphs）对用户偏好进行建模：在这类图中，用户与物品作为节点，通过交互边（如点击、购买、评分等）建立连接。用户-物品网络中普遍存在的幂律分布，与双曲几何的指数容量特性天然契合——这一特性使双曲空间非常适合捕捉层级化偏好结构（如用户对 “电子产品→智能手机→特定品牌机型” 的层级偏好）和复杂交互模式（如用户跨品类的关联消费行为）。

4.1.1 协同过滤

双曲协同过滤利用用户-物品层级特性建模偏好模式，效果由于欧几里得方法。

框架优化：

• HyperML模型率先将双曲距离融入边际排序损失。

• HGCF采用图卷积实现长距离关系建模；

• LGCF在克莱因空间引入爱因斯坦中点聚合，构建了全双曲框架；

• HDRM将扩散模型与各向异性过程相结合，实现拓扑结构的保留。

损失函数增强：

• HRCF引入双曲正则化，通过根对齐和原点感知惩罚防止嵌入坍缩；
• HICF模型通过双曲感知学习和策略性负采样优化边际排序，同时提升热门物品与小众物品的推荐效果。

语义增强：

• HNCR基于最近邻方法，利用共现频率构建语义图；
• HVACF、HyperLLM通过融合视觉特征与预训练模型，生成更丰富的物品表示。

4.1.2 知识图谱增强推荐

知识图谱增强型推荐系统借助明确的语义关系，解决推荐场景中的冷启动问题与交互稀疏问题。

统一建模方法：将用户、物品及知识图谱实体整合到统一的图结构中进行建模：

• KBHP将RippleNetwork适配到双曲空间，通过专用评分函数与多跳实体聚合实现建模；
• LKGR模型在洛伦兹流形上引入注意力机制，采用独特的传播策略对异质信息进行编码。

分离建模方法：不将知识图谱视为统一建模组件，而是将其作为辅助语义信息源：

• HAKG通过分离式聚合策略构建物品的双重嵌入表示，利用门控机制实现自适应融合，并引入锥约束优化表示效果；
• LECF 模型采用全双曲建模框架，借助洛伦兹等变变换，同时实现属性优化与嵌入表示精修。

4.1.3 社交感知推荐

• HSR 模型率先在双曲空间中开展社交推荐研究：它通过加权双曲图神经网络对用户-物品关系及用户-用户关系进行建模。
• HyperSoRec模型则针对特定用户-物品对，通过可学习关系捕捉多维度交互信息。
• HGSR 模型引入社交嵌入预训练以捕捉层级化社交结构，并将用户 - 物品图卷积与社交扩散建模相结合，进一步优化推荐效果。

4.1.4 基于会话的推荐

从匿名的、时序化的交互会话中预测用户行为，这为双曲方法带来了独特的时序建模挑战。

• HCGR 模型首次将双曲建模应用于基于会话的推荐任务：它在序列图上采用双曲自注意力机制，并结合对比学习实现层级化行为提取。
• H2SeqRec模型利用双曲超图卷积进行高阶关系建模。
• MIHRN 模型将多兴趣机制与超图网络相结合，以实现多样化的用户兴趣表示。
• HADCG 模型则通过双聚类模块解决协同信号不足的问题，该模块包含会话内聚类与会话间聚类两种策略。

4.2 知识图谱

大规模知识图谱呈现出无标度分布与层级化组织模式，这使得双曲几何非常适合用于学习知识图谱的嵌入表示——既能保留知识图谱的这些结构特性，又能维持较低的维度。

4.2.1 几何变换方法

几何变换方法通过嵌入空间中的空间运算对知识图谱关系进行建模，将经典的平移和旋转扩展到双曲流形中。

经典模型的双曲扩展

• MuRP 模型将平移模型适配到庞加莱球中，采用关系特异性莫比乌斯变换对并行层级结构进行建模。
• AttH 模型引入可学习的关系特异性曲率，结合双曲反射与双曲旋转操作，并通过注意力机制对这些操作进行融合。
• HyperKG 模型对平移方法进行增强，使其能够实现拟链式数据日志规则的表示。

几何局限性的解决

标准双曲嵌入存在边界拥挤问题。

• HBE 模型通过极坐标表示解决这一问题：极径用于编码层级信息，极角用于区分同层级实体。
• ConE 模型采用双曲锥处理包含关系：通过锥包含约束对层级关系进行建模，通过锥旋转对非层级关系进行建模。

多空间方法

考虑到单一几何空间无法捕捉所有知识图谱拓扑结构，相关研究提出了多空间融合方案：

• GIE 模型将欧几里得空间、双曲空间和球面空间整合到统一框架中。
• LorentzKG 模型通过全双曲洛伦兹模型嵌入，避免了投影失真问题。

4.2.2 图神经网络方法

基于图神经网络（GNN）的方法利用邻域信息，在双曲空间中实现了更强的泛化能力与长距离依赖建模。

基础双曲图神经网络方法

• HyperKA 模型采用双曲图神经网络捕捉多粒度知识关联。
• H2E 模型引入注意力上下文聚合机制，在知识图谱补全任务中实现层级关系的保留。

几何保真度改进

大多数双曲图神经网络方法依赖切空间近似，这种近似会引入失真问题。

• FFHR 模型直接在庞加莱模型中进行消息传递，通过引入广义双曲内积替代基于距离的评分方式，从而更好地对关系模式进行建模。

混合几何方法

近年来的研究探索了针对多样化知识图谱拓扑结构的混合几何解决方案：

• M2GNN 模型构建可学习曲率积流形，以提升结构表达能力。
• MGTCA 模型整合几何感知注意力机制，优化对多结构知识图谱的聚合效果，为处理拓扑多样性提供了互补性方法。

双曲知识图谱方法的发展呈现出清晰的演进路径：从基础的几何适配逐步过渡到复杂的多空间框架。尽管几何变换方法为经典知识图谱嵌入提供了直观的扩展思路，但基于图神经网络的方法通过邻域聚合，展现出更优的可扩展性与表达能力。

4.3 生物信息学与分子图

分子天然适合以图结构表示：节点代表原子，边代表化学键。生物系统中普遍存在层级结构——从蛋白质折叠模式到基因调控网络，这一特性使双曲几何特别适合捕捉此类复杂关系。

4.3.1 生物信息学图表示

基因本体与功能分析

HiG2Vec 模型通过两步法将基因本体术语与基因嵌入到共享双曲空间中：首先将基因本体有向无环图映射到庞加莱球中，然后根据基因本体注释确定基因的位置，以确保其与相关基因本体术语在语义上对齐。该方法充分利用了基因本体层级结构固有的类树状特征——双曲空间的指数体积增长特性，能够自然适配生物本体的分支复杂性。

药物发现与分子属性预测

HRGCN+模型将分子图与分子描述符相结合用于药物发现，不仅能让药物化学家从原子和描述符两个层面理解模型，还能辅助提取隐藏信息。SHDE模型提出通过双曲变分自编码器框架学习分子嵌入，以发现新的药物副作用并实现药物重定位。这些方法证明，双曲几何能够捕捉分子结构的层级特性 —— 从原子间的相互作用到分子的药理属性，均可通过双曲空间有效建模。

单细胞分析与基因组学

scPhere 模型是一种可扩展的生成模型，它将变分自编码器与超球面几何、双曲几何相结合，将高维单细胞RNA测序数据嵌入到低维空间中。现有双曲方法多优先考虑局部结构，却牺牲了全局准确性与效率。为解决这一问题，CPM 模型 [116] 将对比学习与双曲空间方法相融合，展现出更优的效率与可扩展性。这些方法能够有效对细胞分化过程与基因调控网络的层级组织进行建模。

4.3.2 分子生成

借助双曲生成模型，分子生成领域已取得显著进展。

在双曲空间中进行分子生成，通常通过基于图的模型实现，例如归一化流和生成对抗网络。近年来，扩散模型因其强大的生成能力和坚实的数学基础，受到了广泛关注。HGDM 模型是首个将扩散模型与双曲表示相结合，用于图和分子生成的方法。该模型利用双曲空间中的包裹正态分布，直接在节点层面执行扩散过程，从而同时生成图结构和节点特征。

为提升可控性与生成质量，HypDiff 模型采用潜在扩散范式：用低维潜在空间替代原始数据空间，以降低模型复杂度，实现更高效的分子图生成。在此基础上，GGBall 模型对自编码器模块进行了改进，并引入了庞加莱扩散 Transformer。

4.4 其他应用场景

在基于骨架的动作识别领域，Peng 等人设计了一种双曲时空图卷积网络（hyperbolic spatial-temporal GCN）。该网络在流形上融合多个维度信息，并提供了一种有效的技术，可用于探索每个时空图卷积网络（ST-GCN）层的维度特征。

在量化交易与投资决策领域，Sawhney 等人通过双曲图神经网络（HGNN）对股票间关联关系进行建模，并开发了一个股票预测模型 HyperStockGAT。该模型利用维基数据（Wikidata）中的关联关系及股票所属行业信息，构建股票关联图。

5 挑战和机遇

5.1 复杂结构问题

现实世界中的网络往往呈现出混合几何特征：部分区域为类树状结构，其他区域则可能是平坦结构或环状结构，最终导致整体结构具有异质性。若将此类结构复杂的图直接嵌入双曲流形，难免会引入结构归纳偏置与失真问题。

迄今为止，研究者已开展了一些初步尝试，但该领域仍有较大的改进空间。当前的主流策略是融合欧几里得空间和/或球面空间，以补充双曲空间的表达能力。例如：

• GIL 模型通过交互方式利用双曲空间与欧几里得空间，并为两个空间分支分配不同权重，从而应对复杂的图结构；
• SelfMGNN 模型通过笛卡尔积构建混合曲率空间；
• 另一方面，ACE-HGNN 模型尝试通过多智能体强化学习框架学习最优曲率，以对具有不同双曲性的类树状图进行建模；
• HGCL 模型则通过对比学习增强双曲图神经网络（HGNN）的建模能力。

不过，这些方法通常需要构建多个分支，这在一定程度上不可避免地增加了计算复杂度。此外，上述大多数方法采用全局建模策略，若能融入局部几何指标（如里奇曲率（Ricci curvature）），或许能获得更高效、更具适应性的解决方案。

5.2 几何感知学习

尽管双曲图学习（HGL）已取得显著成果，但当前多数研究精力主要集中在如何通过合理设计空间间的变换操作，将图表示推广到双曲空间中。然而，优化目标（例如 HGCN和LGCN中使用的交叉熵损失）往往借鉴自欧几里得空间的设置，通常无法兼顾双曲几何的固有特性。另一方面，双曲空间具有弯曲特性：靠近原点的区域更平坦且范围相对狭窄，而远离原点的区域则更广阔；但在设计双曲模型时，这一特性却很少被考虑。

一个关键研究方向是使优化目标与底层双曲几何特性相匹配，而非依赖欧几里得风格的损失函数——这是值得解决的首要挑战。近年来，HRCF 模型提出了一种具有几何感知能力的双曲推荐系统，为该领域研究开辟了道路。

第二个研究方向是让学习过程本身具备几何感知能力：在学习中关注节点位置信息，而非采用对几何特性不敏感的优化目标（例如度量学习中的固定边际）。

最后，由于双曲空间具有指数扩张特性，远离原点的区域拥有充足的 “容量”，可在样本重叠最小化的前提下对样本进行分布。从直观上看，通过促使模型保留数据固有的结构，并将整体嵌入结果推向远离原点的区域，模型的表示能力有望得到大幅提升。

5.3 双曲图学习的可信度问题

尽管双曲图学习（HGL）在层级图表示任务中已被证明具有良好效果，但仍存在若干未解决的可信度问题。双曲空间优势的理论依据尚不明确，具体而言，其性能提升究竟源于对高层节点、尾部节点的表示改进，还是两者共同作用的结果，目前仍无定论。此外，学界对双曲模型优于欧氏模型的适用条件认知不足，且对双曲模型的泛化误差与鲁棒性特征的研究仍十分有限。

• 已有初步探索（如 HSCML 模型 [126]）通过实证研究双曲推荐系统，为双曲图学习任务中的系统性可信度分析提供了可能性，验证了该方向的研究潜力。
• Suzuki 等人的理论研究成果为该领域奠定了良好基础。其研究表明，双曲序数嵌入（HOE）的泛化误差界至多与嵌入半径呈指数关系，且在树结构表示任务中，性能显著优于线性图嵌入方法 。
• 基于上述研究基础，研究者可进一步构建全面的理论框架，明确双曲模型的优势场景及核心原因，进而建立规范化的模型选择标准与性能保障机制。
• 开发适配双曲几何特性的鲁棒性度量指标，有望提升双曲图学习系统的可靠性；而针对双曲嵌入的可解释性工具，则能帮助研究者深入理解驱动性能提升的几何特征，为模型优化提供理论支撑。

5.4 可扩展的双曲图学习

尽管双曲图学习（HGL）在性能上有显著提升，但相较于欧几里得方法，其计算成本更高，因此面临着严峻的可扩展性挑战。其中，基于切空间（tangent space）的模型受限于高昂的指数映射与对数映射计算成本，在高维度场景下这种计算开销更是难以承受。现实世界中的图往往包含数百万个节点和边，而计算资源却十分有限，如何将双曲图学习扩展到大规模图中，仍是当前亟待解决的关键开放性挑战。

各类提升图神经网络可扩展性的技术，为双曲框架提供了极具潜力的适配路径：

• 将特征变换与传播过程解耦，可在保留双曲几何特性的同时，大幅降低计算开销；
• 图采样技术通过智能选择能保留双曲关系的代表性子图，实现对大规模层级结构的高效处理。

近年来双曲架构领域的突破，直接解决了计算瓶颈问题：

• Hypformer 模型的提出是一项重要进展，它构建了首个具有线性自注意力复杂度的双曲Transformer，首次实现了对十亿级规模图数据的处理；
• 元学习方法（如 H-GRAM 模型）通过可迁移的双曲表示解决可扩展性问题，能够在节点集不重叠的新大规模子图上实现更快速的学习；
• 此外，专为双曲运算设计的近似算法，可在不牺牲表示质量的前提下，大幅降低指数映射与对数映射的计算负担。

5.5 与基础模型融合

基础模型（尤其是大型语言模型，LLMs）的兴起，已在多个领域为人工智能带来革命性变革。然而，将这些强大的基础模型与双曲图学习（HGL）相融合，仍面临多项挑战。首先，几何不兼容性构成了根本性障碍：基础模型的设计与预训练全程在欧几里得空间中进行，而预训练得到的欧几里得嵌入与双曲表示空间之间的这种错位，会导致模型性能显著下降。其次，可扩展性问题愈发突出：当将双曲方法扩展至十亿参数规模的模型时，额外的映射操作与黎曼计算会产生巨大计算开销，使得模型难以落地。第三，训练不稳定性问题在双曲空间的预训练或微调阶段显现——若简单套用指数映射与对数映射，会引发抵消效应，进而损害双曲建模能力。

尽管挑战重重，二者的融合仍蕴含巨大优势。其一，增强的层级表示学习可自然捕捉语言中固有的树状结构；其二，更优的嵌入效率能在保留复杂关系的同时，通过降维实现大规模数据处理；此外，双曲空间的指数增长特性，也能为少样本学习场景提供助力。

多模态双曲学习是另一极具前景的方向：近期提出的双曲视觉-语言模型 已证明，该领域不仅能捕捉跨模态的层级关系，还可通过嵌入范数或锥结构实现不确定性量化。此外，推荐系统可借助 “大型语言模型增强型双曲嵌入”，将语义理解与几何结构相结合，不过这一方向仍需全面的实证验证。

未来研究可聚焦于以下方向：开发高效、完整或混合式的欧几里得-双曲空间桥接架构；设计具备几何感知能力的注意力机制；建立双曲基础模型稳定训练的理论框架。此外，图增强检索增强生成（RAG）系统，以及生物信息学等领域的特定应用，也展现出理论潜力，将成为未来实证验证的重要方向。