La concentrazione degli archivi fu effettuata secondo due linee distinte. Tra il 1860 e il 1863 confluirono nell’Archivio di Deposito ducale, collocato nel Palazzo governativo, destinato a diventare la sede dell’Archivio di Stato, i fondi della Segreteria di Gabinetto, dell’archivio camerale, di quello della Pubblica Sicurezza e del Ministero delle finanze, cui si affiancarono nei decenni successivi i restanti fondi individuati dal Bonaini ed altri ancora. Dal 25 giugno al 29 luglio 1862 fu trasferito nel palazzo governativo, ad opera di Giuseppe Campi, direttore dell’Archivio palatino e successivamente primo direttore dell’Archivio di Stato, l’Archivio segreto della Casa d'Este (e d'Austria-Este), noto anche come Archivio palatino a motivo della sua tradizionale ubicazione presso il palazzo ducale, il quale venne destinato a sede della Scuola militare di fanteria (poi Accademia militare dal 1946). Il nuovo complesso, denominato inizialmente Archivio governativo, fu diviso in due grandi sezioni, al primo piano una sezione “diplomatica”, poi sezione storica, costituita dall’archivio segreto estense che si arricchì di tutte le scritture anteriori alla conquista napoleonica; e al piano terra una sezione di deposito, poi sezione moderna, costituita dal rimanente materiale che rimase però limitata al 1796-1860. Con l’emanazione della legislazione archivistica unitaria (r.d. 5 marzo 1874, r.d. 26 marzo 1874, n. 1861, n. 1852, r.d. 27 maggio 1875 n. 2552) nel 1874 fu sostituita la denominazione di Archivio governativo con quella di Archivio di Stato e scomparve, con i primi significativi versamenti da parte delle amministrazioni statali, l’originaria suddivisione in sezioni.
La sede che ospita sin dalla sua istituzione l'Archivio di Stato di Modena è costituita dall’ala settentrionale di un convento di Padri domenicani, edificata a partire dalla prima metà del XVIII per ampliare il primitivo nucleo della sede conventuale. Nel 1796 a seguito delle soppressioni napoleoniche, il palazzo venne nazionalizzato e adibito a vari usi fino al 1808 allorché fu trasformato in un luogo di rappresentanza istituzionale divenendo sede della Prefettura del Dipartimento del Panaro ed alloggio dello stesso Prefetto. Successivamente al 1814, con la caduta di Napoleone e l'avvento della Restaurazione, il palazzo conservò la propria funzione istituzionale, divenendo sede di alcuni ministeri del Ducato austro-estense, cominciando già all’epoca ad essere definito palazzo governativo o palazzo dei Ministeri: gli uffici del Ministero di Pubblica economia e istruzione, poi Ministero dell’interno, il Governo della città e della provincia di Modena, il Ministero di Buon governo. Nel 1849 il duca Francesco V vi fece istituire il già ricordato Archivio generale di Deposito, allo scopo di raccogliere gli atti del periodo napoleonico e le carte degli organi centrali del Ducato non più occorrenti alle esigenze di servizio. Con l'Unità d'Italia, nel solco di una secolare continuità istituzionale, il palazzo fu adibito a sede della Prefettura di Modena, che qui rimase fino al 1866, e altri uffici pubblici quali il Genio civile, l'Ufficio tecnico di finanza e la Stazione agraria. L’edificio, danneggiato dal terremoto del 2012, è stato oggetto di lavori di restauro e consolidamento che hanno consentito il recupero di ambienti storici.
L’Archivio di Stato di Modena, secondo quanto previsto dal Codice dei beni culturali e del paesaggio (d.leg.vo 42/2004), esercita oltre i compiti di salvaguardia e tutela del patrimonio archivistico conservato, una intensa attività di valorizzazione promuovendo e realizzando progetti ed eventi culturali, anche in collaborazione con enti e istituti di cultura; concede il prestito di documenti conservati nei propri fondi per iniziative a scopo scientifico o per rilevanti manifestazioni culturali nazionali ed internazionali promosse da soggetti pubblici e privati; svolge attività scientifiche ed educative atte a favorire la diffusione delle conoscenze del proprio patrimonio archivistico mediante azioni didattiche, formative e divulgative destinate a diverse categorie di pubblico, con particolare riferimento a quello scolastico; svolge inoltre attività di sorveglianza nei confronti degli archivi correnti degli organi e uffici periferici dello Stato nella città e provincia di Modena. Presso l'Archivio di Stato di Modena è attiva, dal 1955, una scuola di Archivistica paleografia e diplomatica di durata biennale. L'Istituto, inoltre, possiede una biblioteca che conta oltre 20.000 unità, tra volumi ed opuscoli, circa 588 testate di periodici di argomento archivistico, storico, giuridico-istituzionale e di interesse locale, ed una raccolta di tesi di laurea di argomento archivistico, dal 1946 ad oggi. Dal 2007 l'Archivio di Stato di Modena ha aderito al Servizio bibliotecario nazionale (SBN), la rete delle biblioteche italiane promossa dal Ministero della cultura.