En isomorfisme fra en gruppe (G, ∗) til sig selv kaldes en automorfisme af denne gruppe. Det er således en bijektion f : G → G {\displaystyle f:G\rightarrow G}
sådan at f ( u ) ∗ f ( v ) = f ( u ∗ v ) {\displaystyle f(u)*f(v)=f(u*v)}
.
En automorphisme afbilder altid identiteten til sig selv. Billedet under en automorphisme af en konjugationsklasse er altid en konjugationsklasse (den samme eller en anden). Billedet af et element har samme orden som dette element.
Sammensætningen af to automorphismer er igen en automorphisme, og med denne operation danner mængden af alle automorphismer af en gruppe G, betegnet Aut(G), selv en gruppe, nemlig automorphismegruppen af G.
For alle abelske grupper findes der mindst den automorphisme, der erstatter gruppens elementer med deres inverser. I grupper, hvor alle elementer er lig med deres inverse, er dette imidlertid den trivielle automorphisme, f.eks. i Klein-fire-gruppen. For denne gruppe er alle permutationer af de tre ikke-identitetselementer automorphismer, så automorphismegruppen er isomorf til S3 og Dih3.
I Zp for et primtal p kan et ikke-identitetselement erstattes af et hvilket som helst andet, med tilsvarende ændringer i de andre elementer. Automorphismegruppen er isomorfi til Zp – 1. For n = 7 er f.eks. multiplikation af alle elementer i Z7 med 3, modulo 7, en automorfisme af orden 6 i automorphismegruppen, fordi 36 ≡ 1 (modulo 7), mens lavere potenser ikke giver 1. Denne automorphisme genererer således Z6. Der findes endnu en automorphisme med denne egenskab: multiplikation af alle elementer i Z7 med 5, modulo 7. Derfor svarer disse to til elementerne 1 og 5 i Z6, i denne rækkefølge eller omvendt.
Automorphismegruppen af Z6 er isomorf til Z2, fordi kun hvert af de to elementer 1 og 5 genererer Z6, så bortset fra identiteten kan vi kun bytte om på disse.
Automorphismegruppen af Z2 ⊕ Z2 ⊕ Z2 = Dih2 ⊕ Z2 har orden 168, hvilket kan findes som følger. Alle 7 ikke-identitetselementer spiller den samme rolle, så vi kan vælge hvilket der spiller rollen som (1,0,0). Ethvert af de resterende 6 kan vælges til at spille rollen som (0,1,0). Dette bestemmer, hvilket element der svarer til (1,1,0). For (0,0,1) kan vi vælge mellem 4, hvilket bestemmer resten. Dermed har vi 7 × 6 × 4 = 168 automorfismer. De svarer til dem i Fano-planet, hvoraf de 7 punkter svarer til de 7 ikke-identitetselementer. De linjer, der forbinder tre punkter, svarer til gruppeoperationen: a, b og c på en linje betyder a + b = c, a + c = b og b + c = a. Se også generel lineær gruppe over finitte felter.
For abelske grupper kaldes alle automorphismer undtagen den trivielle for ydre automorphismer.
Non-abelske grupper har en ikke-triviel indre automorphismegruppe og muligvis også ydre automorphismer.