Tra le opere più importanti di Giovanni Chelli, ricordiamo la pubblica biblioteca di Grosseto. Il canonico Giovanni Chelli presentò un’istanza al Capitolo della Cattedrale, nella quale chiese il permesso di aprire tale istituzione e anche una sede adeguata per accoglierla.
Il 30 dicembre 1858, il Capitolo della Cattedrale di Grosseto si riunì e deliberò che a Giovanni Chelli fosse accordata la direzione della biblioteca col titolo di Direttore, obbligando a sottoporre il regolamento all'approvazione del Capitolo entro un anno; gli venne inoltre concesso di nominare il sottobibliotecario e custode.
Il fondo originario della biblioteca era costituito da circa 5000 volumi, tra i quali figuravano numerose cinquecentine ed edizioni rare e di pregio. Il fondo era diviso in tre nuclei principali: la Libreria del Vescovo Domenico Mensini, il lascito di Domenico Pizzetti, Vicario Capitolare della diocesi di Grosseto, e la donazione dello stesso Canonico Giovanni Chelli.
Fin dal 1858, il Capitolo della Cattedrale assegnò a Giovanni Chelli tre locali del Palazzo Vescovile per allestirvi provvisoriamente la biblioteca pubblica. Dal 1859 e fino al 1 marzo 1860 (giorno della sua inaugurazione), il Canonico Chelli si dedicò con grandissimo impegno alla ricerca di donazioni, in opere o denaro, che contribuissero allo sviluppo della nascente biblioteca.
Il primo febbraio del 1860, egli scriveva con orgoglio:
"la Biblioteca conta finora circa nove mila volumi d’opere pregevoli tutte, per la metà acquistate dal Re.mo Capitolo di questa Cattedrale coi denari del Legato Mensini, per la metà donate."
In seguito all’ampliamento della biblioteca, che aveva assunto in breve tempo dimensioni assolutamente sproporzionate ai suoi mezzi, dopo lunga riflessione, nel 1864 Giovanni Chelli, con un atto solenne "inter vivos", sottoscrisse il lascito della biblioteca al Municipio di Grosseto.
Dal 1867 iniziò ad essere pressante il problema della collocazione stabile della biblioteca, ancora ospitata presso il Palazzo Vescovile. Temendo che l’elezione del nuovo Vescovo comportasse il trasferimento della biblioteca, il Chelli suggerì che il Governo acquistasse la sede vescovile, provvedendo al trasferimento di questa in altri locali. Non si conoscono i termini della risposta data dal Governo, ma senz’altro fu negativa.
Come Giovanni Chelli aveva previsto, alla nomina del Vescovo seguì la chiusura della biblioteca. Il primo aprile 1870 (poco dopo la morte del Chelli avvenuta l’8 dicembre 1869), la Giunta Municipale deliberò che l’istituzione fosse trasferita provvisoriamente in via Mazzini presso la Barriera; successivamente andrà ad occupare alcuni locali al piano terra del nuovo Municipio, al momento ancora in costruzione.