Een isomorfisme van een groep (G, ∗) naar zichzelf wordt een automorfisme van deze groep genoemd. Het is dus een bijectie f : G → G {{{{{{{{}}}:G}}
zodanig dat f ( u ) ∗ f ( v ) = f ( u ∗ v ) {{{displaystyle f(u)*f(v)=f(u*v)}
.
Een automorfisme leidt altijd de identiteit naar zichzelf. Het beeld onder een automorfisme van een vervoegingsklasse is altijd een vervoegingsklasse (dezelfde of een andere). Het beeld van een element heeft dezelfde orde als dat element.
De samenstelling van twee automorfismen is weer een automorfisme, en met deze operatie vormt de verzameling van alle automorfismen van een groep G, aangeduid met Aut(G), zelf een groep, de automorfismegroep van G.
Voor alle abeliaanse groepen is er tenminste het automorfisme dat de groepselementen vervangt door hun inverses. In groepen waarin alle elementen gelijk zijn aan hun inverse is dit echter het triviale automorfisme, b.v. in de Klein vier-groep. Voor die groep zijn alle permutaties van de drie niet-identiteits-elementen automorfismen, zodat de automorfismengroep isomorf is voor S3 en Dih3.
In Zp kan voor een priemgetal p één niet-identiteits-element worden vervangen door een willekeurig ander, met overeenkomstige veranderingen in de andere elementen. De automorfismengroep is isomorf met Zp – 1. Bijvoorbeeld, voor n = 7 is de vermenigvuldiging van alle elementen van Z7 met 3, modulo 7, een automorfisme van orde 6 in de automorfismengroep, want 36 ≡ 1 (modulo 7), terwijl lagere machten geen 1 geven. Dit automorfisme genereert dus Z6. Er is nog één automorfisme met deze eigenschap: alle elementen van Z7 vermenigvuldigen met 5, modulo 7. Deze twee komen dus overeen met de elementen 1 en 5 van Z6, in die volgorde of omgekeerd.
De automorfismegroep van Z6 isomorf met Z2, want alleen elk van de twee elementen 1 en 5 genereert Z6, dus behalve de identiteit kunnen we deze alleen verwisselen.
De automorfismegroep van Z2 ⊕ Z2 ⊕ Z2 = Dih2 ⊕ Z2 heeft orde 168, zoals als volgt gevonden kan worden. Alle 7 niet-identiteits-elementen spelen dezelfde rol, dus kunnen we kiezen welke de rol van (1,0,0) speelt. Elk van de overige 6 kan gekozen worden om de rol van (0,1,0) te spelen. Dit bepaalt welke overeenkomt met (1,1,0). Voor (0,0,1) kunnen we kiezen uit 4, hetgeen de rest bepaalt. Zo hebben we 7 × 6 × 4 = 168 automorfismen. Ze komen overeen met die van het vlak van Fano, waarvan de 7 punten overeenkomen met de 7 niet-identiteits-elementen. De lijnen die drie punten verbinden corresponderen met de groepsoperatie: a, b, en c op één lijn betekent a + b = c, a + c = b, en b + c = a. Zie ook algemene lineaire groep over eindige velden.
Voor abeliaanse groepen heten alle automorfismen behalve de triviale buiten-automorfismen.
Niet-abeliaanse groepen hebben een niet-triviale binnen-automorfismegroep, en mogelijk ook buiten-automorfismen.