Ein Isomorphismus von einer Gruppe (G, ∗) zu sich selbst nennt man einen Automorphismus dieser Gruppe. Es ist also eine Bijektion f : G → G {\displaystyle f:G\rightarrow G}
, so dass f ( u ) ∗ f ( v ) = f ( u ∗ v ) {\displaystyle f(u)*f(v)=f(u*v)}
.
Ein Automorphismus bildet immer die Identität auf sich selbst ab. Das Bild unter einem Automorphismus einer Konjugazitätsklasse ist immer eine Konjugazitätsklasse (die gleiche oder eine andere). Das Bild eines Elements hat die gleiche Ordnung wie dieses Element.
Die Komposition zweier Automorphismen ist wiederum ein Automorphismus, und mit dieser Operation bildet die Menge aller Automorphismen einer Gruppe G, bezeichnet mit Aut(G), selbst eine Gruppe, die Automorphismengruppe von G.
Für alle abelschen Gruppen gibt es mindestens den Automorphismus, der die Gruppenelemente durch ihre Inversen ersetzt. In Gruppen, in denen alle Elemente gleich ihrer Inversen sind, ist dies jedoch der triviale Automorphismus, z.B. in der Kleinschen Vierergruppe. Für diese Gruppe sind alle Permutationen der drei nicht-identischen Elemente Automorphismen, so dass die Automorphismengruppe isomorph zu S3 und Dih3 ist.
In Zp für eine Primzahl p kann ein nicht-identisches Element durch ein beliebiges anderes ersetzt werden, mit entsprechenden Änderungen der anderen Elemente. Die Automorphismengruppe ist isomorph zu Zp – 1. Zum Beispiel ist für n = 7 die Multiplikation aller Elemente von Z7 mit 3, modulo 7, ein Automorphismus der Ordnung 6 in der Automorphismengruppe, weil 36 ≡ 1 (modulo 7), während kleinere Potenzen nicht 1 ergeben. Dieser Automorphismus erzeugt also Z6. Es gibt einen weiteren Automorphismus mit dieser Eigenschaft: die Multiplikation aller Elemente von Z7 mit 5, modulo 7. Daher entsprechen diese beiden den Elementen 1 und 5 von Z6, in dieser Reihenfolge oder umgekehrt.
Die Automorphismengruppe von Z6 ist isomorph zu Z2, weil nur jeweils die beiden Elemente 1 und 5 Z6 erzeugen, so dass wir außer der Identität nur diese vertauschen können.
Die Automorphismengruppe von Z2 ⊕ Z2 ⊕ Z2 = Dih2 ⊕ Z2 hat die Ordnung 168, wie man wie folgt feststellen kann. Alle 7 nicht-identischen Elemente spielen die gleiche Rolle, so dass wir wählen können, welches die Rolle von (1,0,0) spielt. Jedes der verbleibenden 6 Elemente kann für die Rolle (0,1,0) gewählt werden. Damit ist festgelegt, was (1,1,0) entspricht. Für (0,0,1) können wir aus 4 wählen, was den Rest bestimmt. Wir haben also 7 × 6 × 4 = 168 Automorphismen. Sie entsprechen denen der Fano-Ebene, wobei die 7 Punkte den 7 nicht-identischen Elementen entsprechen. Die Linien, die drei Punkte verbinden, entsprechen der Gruppenoperation: a, b und c auf einer Linie bedeutet a + b = c, a + c = b und b + c = a. Siehe auch allgemeine lineare Gruppe über endlichen Feldern.
Für abelsche Gruppen werden alle Automorphismen außer dem trivialen als äußere Automorphismen bezeichnet.
Nicht-abelsche Gruppen haben eine nicht-triviale innere Automorphismengruppe und möglicherweise auch äußere Automorphismen.