置換表現のうち, 線形空間に作用し, またその線形構造を保つもの, すなわちに値を持つものを考える.

群の線形表現の定義

定義 1 (群の線形表現). を群, を体上の線形空間とする. 準同型写像をの上の線形表現(linear representation)または単に表現(representation)という. 組はの表現空間(representation space)という. また, の次元を表現の次元(dimension)という.

表現空間について線形空間に作用する表現が文脈上明らかなとき, 省略して単に表現空間という. また, 群の表現について線形空間を明示したいとき, とかくこともある。

表現空間が有限次元である表現を有限次元表現(finite-dimensional representation)という. また, をの有限次元表現とすると各に対して線形写像が定まる. の基底を一つ取ることでの表現行列が定まる.

例 2 (自明表現). 群の線形空間上の自明表現(trivial representation)とは, 任意のに対して恒等写像を対応させる表現である. 自明な表現に対するの表現行列は単位行列である.

例 3 (2次元表現の例). 加法群の表現を表現行列

によって定めるとはの2次元表現である.

部分表現

定義 4 (不変部分空間と部分表現). を群の線形表現とする. の部分空間が不変部分空間(-invariant subspace)または単に不変(-invariant)であるとは, 任意のに対してが成り立つことである.

このとき上の表現がによって定まり, をの部分表現(subrepresentation)という.

の部分表現は省略して, 単にの部分表現と書く.

例 5 (自明な不変部分空間). を群の線形表現とする. このとき自明なの部分空間およびは不変である. これを自明な不変部分空間という.

命題 6 (不変部分空間の共通部分と和空間は不変部分空間). を群の線形表現とし, をの不変部分空間の族とする. このとき, 共通部分および和空間はの不変部分空間である

証明. をとる. 定義より, 任意のに対してである. 各は不変であるから, 任意のに対してがすべてのについて成り立つ. よってであり, 共通部分は不変部分空間である.

次にとする. このときはを用いてと表せる. 任意のに対して

である. 各は不変であるから, が成り立つ. よってであり, 和空間も不変部分空間である. ◻

既約表現の定義

定義 7 (既約表現). を群の線形表現とする. かつ, 非自明な不変部分空間をもたないとき, を既約表現(irreducible representation)という. が既約表現でないときは可約表現(reducible representation)という.

例 8 (一次元表現は既約表現). 一次元表現について, は部分空間としてのみを持つので既約表現である.

命題 9. を群の表現としてをの非自明な既約部分表現とする. このときについてまたはが成り立つ.

証明. はの部分空間であって, が不変なのでも不変である. するとが既約であるから かつが成り立つ. すなわちまたはである. ◻

命題 10 (有限群の既約表現は有限次元表現). を有限群, をの既約表現とする. このときは有限次元である.

証明. としてでないものを一つ取る. このときが有限群なので, 次のの部分空間は有限次元である.

さらに, 任意のに対して

なのでは不変部分空間である. であったからであり, は既約表現なのでとなる. 以上よりが有限次元であることが示された. ◻

群環上の加群と群の表現の対応

命題 11. 群の線形空間上の表現と群環上の左加群との間には一対一対応がある. 具体的には, 写像で全単射なものが存在する. ただしは群準同型写像による集合, は環準同型写像による集合である.

証明. 写像をとして次のように定める.

まずが環準同型であることを示す. 任意の

に対し, 和について

積について,

単位元についてをのとき1, それ以外のとき0となるクロネッカーのデルタとして

であるから, は環準同型である.

次にが次の写像を逆写像としてもつことを示す. はの部分集合としてみなすことができるから, として次のように定める.

が環準同型写像であることより, が群準同型写像であることが従う. をそれぞれ考えると次のようになる.

よってがの逆写像であるからは全単射である. ◻

この対応により, 群の表現は群環上の左加群としてみなすことができ, 部分表現や既約表現は加群の部分加群や既約加群として考えることができる. つまりの表現の部分表現とは, 群環上の左加群の部分加群であり, が既約表現であるとは, が上の既約加群であることである.