Alla vigilia della guerra mondiale, il 2 giugno 1940, Gelli si presenta da privatista all'esame di maturita all'Istituto tecnico per ragionieri, ma viene bocciato. Il 9 giugno e richiamato nel 127? reggimento fanteria e nel marzo 1941 e imbarcato per Durazzo, in Albania. Trasferito poi in un reggimento di paracadutisti, ha un incidente durante un'esercitazione a Viterbo. nel 1942 e aiutante di campo del dirigente del fascio di Cattaro, in Dalmazia, dove, si dice, gli Italiani nascondano il tesoro della Banca nazionale Serba.Il 25 luglio 1943 torna a Viterbo dove lo sorprende l'8 settembre.
Riparato a Pistoia, aderisce con l'amico Giorgio Pisano alla Repubblica sociale italiana, arruolandosi col grado di sergente maggiore nella divisione delle SS Hermann Goering.Il 18 settembre 1944, quando gli alleati entrano a Pistoia, rischia la fucilazione, ma un documento del 4 ottobre, firmato dal presidente comunista del locale Comitato di liberazione nazionale, Italo Carobbi, afferma che Gelli si e reso utile alla causa dei patrioti, come informatore occulto. Sarebbe da mesi confidente di emissari della V armata statunitense e avrebbe aiutato i partigiani a liberare 40 detenuti dal carcere politico di Villa Sbertoli.
Tuttavia molti pistoiesi lo considerano il responsabile dell'agguato del 29 luglio '44, in cui cade il comandante anarchico Silvano Fedi. E Giuseppe Corsini, sindaco di Pistoia e senatore del PCI, lo descrive come colpevole di rappresaglie e atroci torture.
