数学 上，广义正交群 或称伪正交群 、不定正交群 O(p ,q )是所有保持n=p+q维实向量空间 上的符号为 (p,q)的非退化对称双线性形式 的线性变换 组成的李群 。这个群的维数 是n(n−1)/2。
广义特殊正交群 SO(p ,q )是O(p ,q )中所有行列式 为1的元素构成的子群 。
度量 的符号（p 、q 分别为正负特征值 的个数）在同构的意义下决定该群；交换p 和q 相当于度量改变惯性指数，所以给出同样的群。如果p 或q 等于0，那么同构于普通正交群 O(n )。我们假设下文中p 和q 均是正整数。
群O(p ,q )定义在实 向量空间上。对于複 空间，所有群O(p ,q ; C )都同构于通常正交群O(p + q ; C )，因为複共轭变换
z
j
↦
i
z
j
{\displaystyle z_{j}\mapsto iz_{j}}
和经典正交群O(n )一样，O(p ,q )能表示为矩阵 群。R p ,q 对角矩阵 给出标准内积：
η
=
d
i
a
g
(
1
,
⋯
,
1
⏟
p
,
−
1
,
⋯
,
−
1
⏟
q
)
.
{\displaystyle \eta =\mathrm {diag} (\underbrace {1,\cdots ,1} _{p},\underbrace {-1,\cdots ,-1} _{q}).\,}
作为二次型，
Q
(
x
1
,
…
,
x
n
)
=
x
1
2
+
⋯
+
x
p
2
−
x
p
+
1
2
−
⋯
−
x
p
+
q
2
.
{\displaystyle Q(x_{1},\dots ,x_{n})=x_{1}^{2}+\cdots +x_{p}^{2}-x_{p+1}^{2}-\cdots -x_{p+q}^{2}.\,}
群O(p ,q )是由n ×n 矩阵M （这里n = p +q ）使得
M
T
η
M
=
η
{\displaystyle M^{T}\eta M=\eta }
Q
(
M
v
)
=
Q
(
v
)
{\displaystyle Q(Mv)=Q(v)}
这里M T M 的转秩。容易验证所有这样的矩阵构成一个群。M 的逆满足
M
−
1
=
η
−
1
M
T
η
.
{\displaystyle M^{-1}=\eta ^{-1}M^{T}\eta .\,}
我们得到一个同构群。事实上将η换成任意p 个正特征值q 个负特征值的对称矩阵 （这样的矩阵必是非奇异 的），等价的，任何符号为 (p ,q )的二次型。对角化这个矩阵给出此群共轭于标准群O(p ,q )。
O(p ,q )和SO(p ,q )都不是连通 的，分别有4个和2个分支 。
π
0
(
O
(
p
,
q
)
)
≅
C
2
×
C
2
{\displaystyle \pi _{0}(O(p,q))\cong C_{2}\times C_{2}}
克莱因四元群 ，每个分支保持或改变p 维正定或q 维负定子空间的定向。特殊正交群有分支
π
0
(
S
O
(
p
,
q
)
)
=
{
(
1
,
1
)
,
(
−
1
,
−
1
)
}
{\displaystyle \pi _{0}(SO(p,q))=\{(1,1),(-1,-1)\}}
O(p ,q )的单位分支 常记作SO+ (p ,q )，能和SO(p ,q )中同时保持两个定向的元素的集合等价起来。
群O(p ,q )也不是紧 ，但包含紧子群O(p )和O(q )，分别作用在两个确定子空间上。事实上，O(p )×O(q )是O(p ,q )的极大紧子群 。而
S
(
O
(
p
)
×
O
(
q
)
)
{\displaystyle S(O(p)\times O(q))}
p ,q )的极大紧子群。同样，SO(p )×SO(q )是SO+ (p , q )的极大紧子群。从而在同论的意义上来说，这些群是（特殊）正交群的积，这样代数拓扑不变量都可以计算出来。
特别的，SO+ (p , q )的基本群 是分支基本群的乘积，
π
1
(
SO
+
(
p
,
q
)
)
=
π
1
(
SO
(
p
)
)
×
π
1
(
SO
(
q
)
)
{\displaystyle \pi _{1}({\mbox{SO}}^{+}(p,q))=\pi _{1}({\mbox{SO}}(p))\times \pi _{1}({\mbox{SO}}(q))\,\!}
π
1
(
SO
+
(
p
,
q
)
)
{\displaystyle \pi _{1}({\mbox{SO}}^{+}(p,q))}
p
=
1
{\displaystyle p=1}
p
=
2
{\displaystyle p=2}
p
≥
3
{\displaystyle p\geq 3}
q
=
1
{\displaystyle q=1}
{1}
Z
{\displaystyle \mathbf {Z} }
Z
2
{\displaystyle \mathbf {Z} _{2}}
q
=
2
{\displaystyle q=2}
Z
{\displaystyle \mathbf {Z} }
Z
×
Z
{\displaystyle \mathbf {Z} \times \mathbf {Z} }
Z
×
Z
2
{\displaystyle \mathbf {Z} \times \mathbf {Z} _{2}}
q
≥
3
{\displaystyle q\geq 3}
Z
2
{\displaystyle \mathbf {Z} _{2}}
Z
2
×
Z
{\displaystyle \mathbf {Z} _{2}\times \mathbf {Z} }
Z
2
×
Z
2
{\displaystyle \mathbf {Z} _{2}\times \mathbf {Z} _{2}}
V. L. Popov, Orthogonal group , Hazewinkel, Michiel (编), 数学百科全书 , Springer , 2001, ISBN 978-1-55608-010-4 Anthony Knapp, Lie Groups Beyond an Introduction , Second Edition, Progress in Mathematics, vol. 140, Birkhäuser, Boston, 2002. ISBN 0-8176-4259-5 . (372页有不定正交群的描述) Joseph A. Wolf, Spaces of constant curvature , (1967) 335页。
