Tali pratiche diplomatiche lo misero in frequente e diretto contatto col cardinale Richelieu (il primo incontro personale dei due risale al 29 gennaio 1630) e presso di lui, a Parigi, fu inviato dal papa Urbano VIII nella primavera del 1632 per ottenere il favore francese alla progettata occupazione sabauda di Ginevra.

In tale occasione ricevette a Parigi la tonsura (unico suo grado ecclesiastico: Mazzarino non ebbe nessuno degli ordini maggiori e non fu mai prete).

Ritornato a Roma, si pose al servizio del cardinale Antonio Barberini e fu vicelegato ad Avignone e nunzio straordinario a Parigi dal 1634 al 1636.Osteggiato dalla Spagna, che gli impediva di ottenere il cappello cardinalizio, intimo ormai di Richelieu, nel 1639 accettò la cittadinanza francese e passò al servizio della Francia; Cardinale dal 1641, fu indicato da Richelieu morente a Luigi XIII quale suo successore e il 5 dicembre 1642 fu nominato dal re primo ministro.

Arbitro ormai della politica francese, soprattutto dopo la morte di Luigi XIII (1643), tale rimase fino alla morte, sostenuto sempre dalla regina madre Anna d’Austria (la tradizione dei suoi amori con Anna è valsa a rendere popolare la sua figura).

Superata l’ostilità dei parlamentari e dei principi che era sboccata nella Fronda, continuò l’opera iniziata da Richelieu cercando di rafforzare l’autorità regia e l’accentramento monarchico; in politica estera, con le paci di Vestfalia (1648) e dei Pirenei (1659), riuscì a distruggere l’egemonia degli Asburgo  assicurando  quel predominio europeo della Francia che è passato alla storia col nome di Luigi XIV ma la cui origine è da ricercare nella politica e nelle realizzazioni di Mazzarino, cui lo stesso Luigi XIV, ormai maggiorenne, aveva lasciato intatto il potere.

La sua sostanza, calcolata a 125 milioni di lire oro, che Mazzarino aveva già donato al re, andò divisa fra i nipoti Mancini e Martinozzi; ma in gran parte toccò al duca di Meilleraye, marito di Ortensia Mancini, che assunse il titolo di duca di Mazzarino.

La linea si estinse nel 1731, e per via femminile l’eredità passò ai Grimaldi di Monaco