Un isomorphisme d’un groupe (G, ∗) vers lui-même est appelé un automorphisme de ce groupe. Il s’agit donc d’une bijection f : G → G {\displaystyle f:G\rightarrow G}.
telle que f ( u ) ∗ f ( v ) = f ( u ∗ v ) {\displaystyle f(u)*f(v)=f(u*v)}.
.
Un automorphisme fait toujours correspondre l’identité à elle-même. L’image sous un automorphisme d’une classe de conjugaison est toujours une classe de conjugaison (la même ou une autre). L’image d’un élément a le même ordre que cet élément.
La composition de deux automorphismes est encore un automorphisme, et avec cette opération l’ensemble de tous les automorphismes d’un groupe G, noté Aut(G), forme lui-même un groupe, le groupe des automorphismes de G.
Pour tous les groupes abéliens, il existe au moins l’automorphisme qui remplace les éléments du groupe par leurs inverses. Cependant, dans les groupes où tous les éléments sont égaux à leur inverse, c’est l’automorphisme trivial, par exemple dans le groupe des quatre de Klein. Pour ce groupe, toutes les permutations des trois éléments non-identiques sont des automorphismes, donc le groupe d’automorphisme est isomorphe à S3 et Dih3.
Dans Zp pour un nombre premier p, un élément non-identique peut être remplacé par n’importe quel autre, avec des changements correspondants dans les autres éléments. Le groupe d’automorphisme est isomorphe à Zp – 1. Par exemple, pour n = 7, multiplier tous les éléments de Z7 par 3, modulo 7, est un automorphisme d’ordre 6 dans le groupe d’automorphisme, car 36 ≡ 1 (modulo 7), alors que les puissances inférieures ne donnent pas 1. Ainsi cet automorphisme engendre Z6. Il existe un autre automorphisme ayant cette propriété : la multiplication de tous les éléments de Z7 par 5, modulo 7. Ces deux-là correspondent donc aux éléments 1 et 5 de Z6, dans cet ordre ou inversement.
Le groupe d’automorphisme de Z6 est isomorphe à Z2, car seul chacun des deux éléments 1 et 5 engendre Z6, donc à part l’identité on ne peut que les interchanger.
Le groupe d’automorphisme de Z2 ⊕ Z2 ⊕ Z2 = Dih2 ⊕ Z2 est d’ordre 168, comme on peut le trouver comme suit. Les 7 éléments non identitaires jouent le même rôle, on peut donc choisir celui qui joue le rôle de (1,0,0). N’importe lequel des 6 éléments restants peut être choisi pour jouer le rôle de (0,1,0). Cela détermine lequel correspond à (1,1,0). Pour (0,0,1), nous pouvons choisir parmi 4, ce qui détermine le reste. Nous avons donc 7 × 6 × 4 = 168 automorphismes. Ils correspondent à ceux du plan de Fano, dont les 7 points correspondent aux 7 éléments non-identiques. Les lignes reliant trois points correspondent à l’opération de groupe : a, b et c sur une ligne signifie a + b = c, a + c = b et b + c = a. Voir aussi groupe linéaire général sur les corps finis.
Pour les groupes abéliens, tous les automorphismes sauf le trivial sont appelés automorphismes extérieurs.
Les groupes non abéliens ont un groupe d’automorphisme intérieur non trivial, et éventuellement aussi des automorphismes extérieurs.