Dal 1000 al 1492 è considerato il periodo del Basso Medioevo: intorno all'anno Mille, dopo il declino delle città durante il Feudalesimo, si incomincia ad affermare una forma di autogoverno cittadino, che tende a rivendicare una certa libertà nei confronti del potere centrale feudale: è l’origine del Comune. Il fenomeno è complesso e riguarda vari aspetti, a partire dalla maggiore disponibilità di cibo dovuta alla cosiddetta “rivoluzione agricola”, e all'aumento demografico, con la conseguenza di un risveglio dei commerci e di una ricerca di forme autonome di governo.
I fiorentini ingrandiscono il loro territorio, grazie anche ai feudatari imperiali. La marchesa Willa di Toscana fonda la Badia Fiorentina (978), nella quale sarà sepolto il figlio e successore, il marchese Ugo di Toscana, che muore nel 1001; la chiesa sarà ristrutturata nel 1285 da Arnolfo di Cambio, con campanile esagonale ricostruito nel 1330.
La chiesa di San Lorenzo viene ricostruita in stile romanico, e consacrata nel 1059 da papa Niccolò II.
Il 1059 è anche l'anno del rivestimento geometrico in marmo verde e bianco dell'ottagonale Battistero, con tetto piramidale e con funzione di cattedrale.
San Giovanni Gualberto, il fondatore nel 1037 dell'ordine dei Vallombrosani (e che muore a Badia a Passignano nel 1073) collega la sua lotta per una riforma della Chiesa con la ricerca di una certa autonomia politica nei confronti del potere centrale del vescovo simoniaco Pietro Mezzabarba, cacciato nel 1068. A questo periodo risalgono le prime notizie (1077) della primitiva chiesa romanica (le attuali facciata interna e la cripta) di Santa Trìnita, a quei tempi fuori delle mura: sarà ricostruita alla metà del Trecento con interno gotico, e avrà la facciata manierista (1593) di Bernardo Buontalenti.
La contessa Matilde di Canossa costruisce una nuova cerchia muraria (la quarta) nel 1078, o “cerchia antica” dantesca, che indica una ripresa della città dopo il Mille, recuperando il perimetro romano, con un ampiamento in direzione dell’Arno nella zona del Castello di Altafronte (verso l'attuale Piazza dei Giudici).
Nel 1096 vari fiorentini partono per la prima Crociata: si dice che Pazzino dei Pazzi fu nel 1099 il primo a scalare le mura di Gerusalemme, favorendone la riconquista cristiana.
Matilde, importante contessa feudale dell’Italia centrale (dalla Lunigiana a gran parte di Emilia, Veneto, Lombardia), e marchesa di Toscana, nell'ambito delle lotte per le investiture, riporta la capitale a Firenze, inaugura una politica filopapale (anticipatrice dell’atteggiamento guelfo successivo), e concede privilegi ed ampie autonomie cittadine, che alla sua morte (1115) permisero uno slancio economico al nascente Comune.
Un episodio fa capire l'importanza che la città va conseguendo: i Pisani nel 1114 chiedono ai fiorentini di fare la guardia alla loro città, mentre le loro navi ripuliscono il Mediterraneo dai pirati saraceni, sconfiggendoli nella loro base nelle Baleari: per riconoscenza donano ai fiorentini due colonne di porfido (ancora oggi accanto alla Porta Est del Battistero di San Giovanni), portate da Maiorca.
Con la distruzione di Fiesole (1125) inizia la conquista dei castelli e dei territori circostanti, mentre i nobili feudatari spodestati si insediano in città.
La città è divisa nel 1172 in sestieri (Porta al Duomo, San Pier Maggiore, San Piero Scheraggio, Borgo Santi Apostoli, San Pancrazio, Oltrarno), deliberando inoltre la costruzione della quinta cerchia muraria, la prima comunale, che sarà realizzata negli anni 1173-1175, ruotando le mura di 45 gradi e quadruplicando l’estensione, fino a comprendere le attuali Vie dei Fossi-del Giglio (ad Ovest), Via dei Pucci-S. Egidio (a Nord), Via Verdi-Benci (ad Est), estendendosi nella zona di Oltrarno con un triangolo che dall’attuale Ponte alle Grazie va a Piazza San Felice e Ponte alla Carraia.
Nel 1077, ai tempi dell'imperatore Ottone IV, il conte Guido Guerra di Poppi sposa la virtuosa fiorentina Gualdrada, figlia di Bellincion Berti.
Da un punto di vista politico, dopo una prima fase “consolare” (dal 1138, quando predominano le consorterie gentilizie, cioè i nobili), il Comune si dà una struttura “podestarile”: Gherardo Caponsacchi nel 1193 è il primo podestà documentato, ed è cittadino; poi il magistrato che amministra il Comune per un anno è un forestiero (per garantire maggiore imparzialità), a partire da Gualfredotto da Milano nel 1207.