Alla base dell'azione di Mazzini vi fu la convinzione che la liberazione dell'Italia poteva avvenire solo attraverso la creazione di uno Stato repubblicano unitario e che artefice del riscatto nazionale poteva essere solo il popolo, animato da una profonda fede religiosa ("Dio e popolo") e dalla consapevolezza di realizzare così il proprio riscatto sociale. La missione storica dell'Italia era di porsi alla guida del moto rivoluzionario europeo, sostituendo la Francia , per l'affermazione del principio di nazionalità in Europa. Alla "Roma dei Cesari" e alla "Roma dei Papi" sarebbe così succeduta una Terza Roma, la "Roma del popolo". Le varie nazioni (parte di una sola Umanità, incarnazione del principio divino) avrebbero dovuto collaborare tra loro, realizzando gli Stati Uniti d'Europa e poi l'unione di tutti gli uomini.
Egli sosteneva che la Libertà non è un fine, ma un mezzo per sviluppare le nostre forze. L'Uguaglianza anch'essa è mezzo, e se si vuole diventare tutti uguali è perché ciascuno possa concorrere ad uno scopo comune.
Il fine, per cui l'individuo.deve essere dotato di Libertà e d'Uguaglianza, bisogna cercarlo in qualcosa di superiore, nell'Umanità; egli deve essere mezzo per realizzare la legge dell'umanità, il progresso, a cui l'umanità ha diritto secondo le forze concessele dall'Essere supremo. Così la nuova formula è: Libertà, Uguaglianza, Umanità. Al disopra della vita di ciascuno è una vita universale, fondata sulla legge del progresso. Il germe del progresso è nelle forze date all'uomo, ma regolate da una legge, da un ordine provvidenziale, che è in idea quello che l'umanità è destinata ad attuare come fatto. Quindi la restituzione del sentimento religioso é la formula Dio e Popolo.
Affiliato alla Carboneria ne sperimentò ben presto i limiti.ed esiliato dal Regno di Sardegna, fondò a Marsiglia nel 1831 la "Giovine Italia", un'associazione segreta, per quanto riguardava i nomi degli affiliati, ma palese per quanto riguardava il programma, che veniva diffuso da un periodico intitolato anch'esso "Giovine Italia" (ne uscirono sei fascicoli tra il 1831 e il 1834)
Le adesioni al programma della "Giovane Italia" si ebbero soprattutto tra i giovani italiani e sfociarono, negli anni tra 1833- 34, in una serie di tentativi insurrezionali che si conclusero tutti tragicamente con arresti, carcere, condanne a morte. Si ricordano, infatti, il tentativo di invasione della Savoia (1834) fallito miseramente e il moto insurrezionale che avrebbe dovuto scoppiare a Genova, nel quale restò coinvolto il giovane Giuseppe Garibaldi, che fu tra i primi ad aderire al programma mazziniano.
Negli anni successivi i militanti nella Giovine Italia cercarono di organizzare sommosse in varie città della penisola ma la maggior parte di esse venne stroncata sul nascere o repressa. Tra queste la più sfortunata fu la spedizione dei fratelli Attilio ed Emilio Bandiera, due giovani nobili veneti, ufficiali della Marina austriaca. Venuti a conoscenza dei moti scoppiati in Calabria, essi tentarono di sollevare le popolazioni dell'Italia meridionale, ma a Crotone furono scoperti dalle truppe borboniche, fatti prigionieri e fucilati con sette dei loro compagni nel vallone di Rovito.
Ricercato dalle polizie di tutta Italia e d'Europa, Mazzini visse in esilio il fallimento delle insurrezioni prima in Francia, poi in Svizzera, infine dal 1837 in avanti in Inghilterra. La sua vita di esule è perciò emblematica del destino di una intera generazione di rivoluzionari nazionalisti e democratici ottocenteschi: i loro progetti non ebbero fortuna, tuttavia essi contribuirono alle trasformazioni più importanti occorse in Europa durante quei decenni. Le nazioni si formarono, di fatto, in base ad una visione diversa dalla loro, ma essi furono i primi a immaginarle, a sognarle, a battersi perchè divenissero realtà. Mazzini e i democrati sognavano un'Europa di repubbliche nazionali in fraterna convivenza tra loro, in ciascuna delle quali il popolo avrebbe goduto del suffragio universale e, quindi, dell'opportunità di praticare la democrazia. Il presupposto per la realizzazione di questo progetto consisteva nell'abbattimento dell'Europa dinastico-assolutistica dei re, da conseguire attraveso un processo rivoluzionario. Era questo il programma della Giovine Europa"