直交群は内積を保つ線型変換のなす群であり、回転や鏡映といった幾何学的変換を記述する。
直交群の定義
次直交群 は、 の標準内積を保つ線型変換全体である。行列で表すと
となる。 は の列ベクトルが正規直交基底をなすことと同値である。
直交行列の性質
ならば である。 から従う。
また であり、逆行列が転置で与えられる。
特殊直交群
特殊直交群 は行列式が の直交行列全体である。
は の指数 の正規部分群であり、 となる。
幾何学的解釈
の元は原点を固定する回転を表す。 の元は回転と鏡映の合成（瑕回転）を表す。
の変換は向きを保ち、 の変換は向きを逆転させる。
と
であり、 は自明群である。
と
は平面の原点周りの回転全体である。角度 の回転は
で表される。 であり、可換群である。
は に鏡映を加えたものである。（半直積）となる。
と
は 次元空間の回転全体である。任意の回転は、ある軸の周りの回転として表せる（Eulerの回転定理）。
の位相
は （3次元実射影空間）と同相である。 からの2重被覆 が存在する。
回転の表現
回転は回転軸（単位ベクトル）と回転角で指定できる。四元数やオイラー角による表現もよく使われる。
の部分群
の有限部分群は完全に分類されている。
巡回群 ： 回回転対称
二面体群 ：正 角形の対称群
正四面体群
正八面体群
正二十面体群
これらに鏡映を加えたものも含まれる。
無限小回転とリー環
の単位元近傍の元は （ は微小）の形で近似できる。 から が従う。
反対称行列全体 は のリー環をなす。 である。
