The indicele coincidentelor este o măsură a cât de diferită este o colecție de litere de un set aleatoriu bazat pe repetări. Pentru un alfabet de 26 de litere, o colecție complet aleatorie de litere va avea indice de coincidență despre 1/26 USD\aproximativ 0,038 USD, pentru textul în limba engleză indicele de coincidență este de aproximativ 0,067 (unele surse nu normalizează indicele și vor folosi în schimb valori de 1 pentru aleatoriu și de aproximativ 1,73 pentru engleză).
Dacă ne uităm la tabel, totul pare puțin mai înalt decât aleatoriu, dar a șasea coloană pare să fie plină de valori care au un indice de coincidență similar sau mai mare cu cel al englezei (textul poate fi conceput pentru a ajuta la criptoanaliza). Modul în care a fost generat tabelul este folosind titlurile coloanelor, textul este împărțit în acel număr de coloane. Apoi, privind în jos fiecare coloană, pe rând, coincidența dintre perechile de litere este folosită pentru a calcula indicele. Deci, de exemplu, pentru a crea a șasea coloană a tabelului, scriem
KCCPKB
GUFDPH
QTYAVI
NRRTMV
GRKDNB
VFDETD
GILTXR
GUDDKO
TFMBPV
GEGLTG
CKQRAC
QCWDNA
WCRXIZ
AKFTLE
WRPTYC
QKYVXC
HKFTPO
NCQQRH
JVAJUW
ETMCMS
PKQDYH
JVDAHC
TRLSVS
KCGCZQ
QDZXGS
FRLSWC
WSJTBH
AFSIAS
PRJAHK
JRJUMV
GKMITZ
HFPDIS
PZLVLG
WTFPLK
KEBDPG
CEBSHC
TJRWXB
AFSPEZ
QNRWXC
VYCGAO
NWDDKA
CKAWBB
IKFTIO
VKCGGH
JVLNHI
FFSQES
VYCLAC
NVRWBB
IREPBB
VFEXOS
CDYGZW
PFDTKF
QIYCWH
JVLNHI
QIBTKH
JVNPIS
T
și pentru a calcula intrarea din a șasea coloană, al doilea rând al tabelului, coborâm în a doua constatare se repetă RR, CC, RR, EE, KK, KK, care este considerabil mai mult decât ne-am aștepta pentru o listă de 56 de litere (unde în medie ne-am aștepta la 2,15 repetări pentru o colecție aleatorie). În mod similar, numărând repetările la distanța 2, 3 etc., le putem agrega într-o estimare pentru indicele de coincidență pentru fiecare coloană. De exemplu, în coloana 2 vedem 5 Cs, 2 Ds, 3 Es, 8 Fs, 3 Is, 1 J, 9 Ks, 1 N, 8 Rs, 1 S, 3 Ts, 2 Us, 6 Vs, 1 W, 2 Y și 1 Z (și fără alte litere). Aceasta înseamnă că dacă numărăm perechi repetate, există 10 perechi de Cs, 1 pereche de Ds, 3 perechi de Es, 28 de perechi de Fs, 3 perechi de Is, 36 perechi de Ks, 28 perechi de Rs, 3 perechi de Ts. , 1 pereche de Noi, 15 perechi de V și 1 pereche de Y (și nicio altă pereche) pentru un total de 129 de perechi repetate în total din 1540 de perechi posibile. Împărțirea 129 la 1540 dă un indice de eșantion de coloană de 0,0838 (nu sunt sigur cum a fost calculat 0,097 din tabel, dar 0,0838 este încă semnificativ mai mare decât 1/26). Calcule similare pentru restul intrărilor din coloana șase a tabelului dau 0,0649, 0,0838, 0,0494, 0,0649, 0,0429, 0,0733. În schimb, calculul nostru atunci când împărțim în șapte coloane este 0,0319, 0,0443, 0,0434, 0,0408, 0,0443, 0,0443, 0,0408 și cinci coloane este 0,0439, 0,0443, 0,0443, 0,030,035, 0,030,035 Coloana șase iese clar în evidență.
Celelalte coloane apar ca fiind mai mari decât aleatorii pentru efectele mai puțin pronunțate ale cifrului Vigenère, dar coloana 6 a tabelului iese în evidență. Acest lucru ne spune că lungimea cheii este probabil să fie 6. Putem verifica în continuare acest lucru luând numărătoarea histogramelor din coloanele de mai sus și văzând că acestea arată ca schimbări ale aceluiași alfabet.
Este posibil să extindem tabelul dincolo de 8 coloane, dar ne trezim de-a face cu colecții mai scurte de litere pentru a calcula indexul.Există teste statistice mai puternice care pot fi utilizate pe colecțiile de litere, dar indicele de coincidență este destul de ușor de calculat manual și cu ochiul și așa a fost popular printre criptoanalistii manuali.
