Gが群、HがGの部分群とする。このとき、集合gHは{gh;h∈H}の集合そのものであり、gを含むHの左剰余類、Hg={hg;h∈H}をgを含むHの右剰余類である。右剰余類の集合をG/H、左剰余類の集合をH\Gと表す。
左剰余類同士の演算(aH)・(bH)=(a・b)Hと定義して、群を作りたい。
このとき、演算が代表元の取り方によらないことを確かめなければならない。
具体的にいうと、次が成り立つことである。
「aH=a'H,bH=b'H」⇔「(a・b)H=(a'・b')H」
これが成り立つためには、「任意のa,b∈G;h,h'∈Hに対して、(ah)(bh')=(ab)hを満たすh∈Hが存在すること」が必要十分である。
この関係式を整理して、正規部分群を定義する。
[定義]Hは群Gの部分群であるとする。
を満たすときに、部分群HはGの正規部分群（normal subgroup）と呼ぶ。
[定理]正規部分群の条件は次のように変えることもできる。いずれも同値である。
ただし、Ha=aHとはha=ah(h∈H)*1を意味するのではなく、ha=ah'(h,h'∈H)となるHの元h,h'が存在することを意味している*2。
[証明]
[1](1)⇒(2)
左合同・右合同の定義より成り立つ。
[2](2)⇒(3)
a≡lb (mod H)
⇔a≡rb (mod H)
⇒ac≡rbc (mod H)
⇔ac≡lbc (mod H) ←(*)
また、同様にしてc≡ld (mod H)⇒bc≡lbd (mod H) ←(**)
(*)(**)と推移律より、ac≡lbd (mod H)が成り立つ。
[3](3)⇒(4)
b∈aH⇔aH=bH⇔a≡lb (mod H)より、(3)の命題は次のように書き換えられる。b∈aH,d∈cH⇒ab∈acHである。つまり、∀a,c∈G;aH・cH⊂acHである。
c=a-1を代入すると、
aH・cH⊂acH
aH・a-1H⊂aa-1H=eH=H
∴aH・a-1⊂H
また、aHa-1⊂aH・a-1Hなので、aHa-1⊂H
[4](4)⇒(5)
(4)のaは任意なので、a-1で考えると、a-1Ha⊂Hが成り立つ。
Hの任意の元をhとすると、a-1ha∈Hであるから、Hのある元h'があって、a-1ha=h'となる。よって、h=ah'a-1∈aHa-1となるから、H⊂aHa-1である。
また、仮定(4)と組み合わせて、aHa-1=Hが成り立つ。
[5](5)⇒(1)
aHの任意の元はah(h∈H)と表されるので、
aha-1
∈aHa-1
=H （∵仮定(5)）
よって、aha-1=h'∈Hが成り立つ。
ah=h'a∈Haとなるので、aH⊂Haが成り立つ。同様にしてHa⊂aHも示される。
したがって、aH=Haが成り立つ。 □
[定理]Gが可換群なら、すべての部分群は正規部分群である。
[証明]Gが可換群のときは、∀a∈G;aH=Haが成り立つ。
ゆえに、可換群の部分群はすべて正規部分群である。 □
[例](Z,+),(Zn,+),(Q*,・),(RSUP{*},・),(C*,・),(Mn(K),+)などはすべて可換群であるので、その部分群はすべて正規部分群である。
例えば、Zの部分群mZは正規部分群である。 ◇
[例]C上のn次特殊線形群SLn(C)は、n次一般線形群GLn(C)の正規部分群である。 ◇
正規部分群が重要である理由は、正規部分群Hの剰余類同士の二項演算を決めることができるという点である。
[定理]
[定理]群Gにおいて、Gの中心Z(G)は正規部分群である。
[定理]Gの部分群Hの指数が2の部分群は正規部分群である。
即ち、[G:H]=2⇒H：正規部分群
[証明]G=H+gH=H+Hgは、Gの右剰余類と左剰余類への分割である。
この分割で類は共通元を持たないので、gH=Hgでなければならない。よって、Hは正規部分群である。 □
この定理はよく使われる。
[定理]群の準同型写像φ：G→Hの核Ker(φ)はGの正規部分群である。
[証明]任意にη∈Ker(φ),a∈Gをとるとき、
φ(aηa-1)
=φ(a)φ(η)φ(a-1) （∵φは準同型写像であるから）
=φ(a)φ(a-1) （∵Kerの定義）
=1
よって、aηa-1∈Ker(φ)が成り立つ。 □
[補講]ガロアは正規部分群による分解を固有分解と言っている。これを発見することにより、方程式論を征服した。 ◇
[定理]群Gの自明な部分群はどちらもGの正規部分群である。
[証明]Gの自明な群とはG自身と、単位群{e}のことである。
[1]N=Gのとき
g-1ng∈G=Nであるため、GはGの正規部分群になる。
[2]N={e}のとき
g-1ng
=g-1eg （∵Nの元はeしかないため、n=e）
=g-1g
=e
∈N
よって、NはGの正規部分群になる。 □
[例]対称群S3において、巡回部分群N=<(1 2 3)>={(1), (1 2 3), (1 3 2)}は正規部分群になる。
N
=<(1 2 3)>
=<d> （∵群表から）
={d,d2,d3}
={e,d,f} （∵群表から、d2=f、d3=e）
後は、n∈{e,d,f}(=N)、g∈{a,b,c,e,d,f}(=G=S3)それぞれで、g-1ng∈Nであることを確認する。
残りの、n∈{d,f}、g∈{a,b,c}の組み合わせの6パターンで、g-1ng∈Nであることを確認する。
以上より、どの場合でもg-1ng∈Nが成り立つため、NはS3の正規部分群である。
一方、<(1 2)>={(1), (1 2)}はS3の部分群になるが、正規部分群にはならない。
なぜならば、<(1 2)>={e,b}であり、次のように計算できる。
a-1ba
=aba （∵群表から、a-1=a）
=da
=c
cは<(1 2)>に属しないからである。 ◇
群Gを部分群Hで剰余類に分割するとき、左剰余類を使うのと右剰余類を使うのとでは結果が異なることがある。しかし、Hが正規部分群のときは、左剰余類と右剰余類が一致しする。つまり、どちらのクラス分けを使っても、同じクラス分けになる。
[定理]Nが群Gの正規部分群ならば、Gの任意の元aに対して、aN=Naが成り立つ。
上記の式の左辺が左剰余類、右辺が右剰余類である。
[証明]
[1]aN⊂Naを示す
集合aNの元はan (n∈N)という形に表すことができるので、次が成り立つ。
an
=ana-1a (∵e=a-1a)
=(a-1)-1na-1a
∈Na (∵NはGの正規部分群で、a-1∈G、n∈Nであり、(a-1)-1n∈Nであるから)
よって、集合aNの元はすべてNaに属する。
[2]Na⊂aNを示す
集合Naの元はna (n∈N)という形に表すことができるので、次が成り立つ。
na
=aaSUP{-1}na (∵e=aa-1)
∈aN (∵NがGの部分群であるため、a-1na∈Nが成り立つから)
よって、集合Naの元はすべてaNに属する。
したがって、[1][2]より、aN=Naが成り立つ。 □
正規部分群では左剰余類と右剰余類が一致するため、それらを単に剰余類という。
[定理]G1,G2：群、H1,H2：それぞれの正規部分群とする。
は
の正規部分群であり、次が成り立つ。
[証明]自然な全射準同型写像を組み合わせて、全射準同型写像を作れば、その核は
である。 □
[定義]単純群
群Gが自明な部分群{e}とG以外に正規部分群を持たないとき、Gを単純群という。
正規部分群以外のコセットはそれ自体では群ではない。
[定理]群Gの正規部分群があった場合、GをHで分解したコセットは群になる。
[証明]Hが正規部分群であるとは、Gのすべての元に対して、αH=Hαが成り立つことを意味する。
Gの分解をG=H+αH+βH+γH+…とすると、次が成り立つ。
αHβH
=αβHH （∵Hβ=βHだから）
=αβH
αとβはGの元なので、αβもGの元である。つまり、αβHはコセットのどれかになる。
剰余群の単位元はHである。また、αHの逆元はα-1Hとなる。
よって、
αHα-1H
=αα-1HH
=εH
=H □
Nを群Gの正規部分群とするとき、GのNによる剰余類の1つ1つを元と考えて（集合を元と捉える）、剰余類全体の作る集合をG/Nという記号で表す。
[例]GがNによって、3つのクラス（剰余類）N,aN,bNに分かれたとする。
このとき、
G/N={N,aN,bN}
が成り立つ。 ◇
つまり、G/Nは集合の集合である。
集合G/Nに次の方法で積を定義する。
(aN)(bN)=abN
「aN=a'N∧bN=b'N」⇒「abN=a'b'N」を確かめておく必要がある。
[定理]Nが群Gの正規部分群のとき、集合G/Nに(aN)(bN)=abNで積を定義すれば、G/Nは群になる。
G/Nは群になるが、この群をGのNによる商群という。
