Nell'Archivio ducale era conservata la documentazione prodotta dal governo centrale o ad esso indirizzata, la corrispondenza politica e privata del duca, tra cui, già prima del 1592, erano depositati gli archivi di Margherita d'Austria, del condottiero Alessandro Farnese e dell'omonimo cardinale, mentre in quello Camerale era confluita tutta la documentazione inerente l'amministrazione del territorio ducale.
Col trascorrere del tempo l'archivio venne ampliato per far fronte ai continui versamenti di materiale prodotto dalle diverse magistrature e dalla stessa famiglia Farnese. Vi si conservavano, inoltre, le carte appartenute a famiglie i cui beni ed archivi erano stati confiscati, come nel caso della famiglia Torelli.
Con la morte di Antonio Farnese nel 1731 e l'estinzione della famiglia, il Ducato fu affidato a don Carlo di Borbone, figlio di Elisabetta Farnese, ma egli vi rinunciò nel 1736 a favore di Carlo VI d'Asburgo. L'ascesa al Ducato di don Carlo di Borbone tuttavia segnò profondamente la storia dell'archivio farnesiano, poiché la documentazione fu trasportata a Napoli, tra il 1734 e il 1736, quando don Carlo ne divenne re. La breve parentesi del governo asburgico fu caratterizzata da una travagliata contesa tra gli Asburgo e i Borbone conclusasi con il trattato di Aquisgrana del 1748 con il quale si assegnava il ducato all'infante don Filippo di Borbone, con la clausola che nel caso di estinzione del ramo borbonico il possesso tornasse all'Austria. A partire dal 1749, con l'insediamento di don Filippo di Borbone nel ducato di Parma, Piacenza e Guastalla, ebbe inizio la restituzione della documentazione rimasta fino ad allora a Napoli, che, secondo le fonti coeve, aveva già subito notevoli perdite dovute soprattutto alla cattiva conservazione. Sebbene le spedizioni verso Parma continuassero con regolarità fino al 1789, la restituzione delle carte fu parziale tanto che parte dell'archivio Farnese tutt'oggi si trova presso l'Archivio di Stato di Napoli con la denominazione di Archivio farnesiano. In seguito al trattato di Aquisgrana del 1748 il ducato di Guastalla fu accorpato a quello di Parma e Piacenza, e l'archivio dei Gonzaga di Guastalla, con documentazione dal 962 al 1760, fu trasportato parzialmente a Parma.
Nel 1774 Ferdinando di Borbone emanò un decreto con cui si delineavano le norme da seguire per gli archivisti e conservatori ducali soprattutto in materia di conservazione e versamenti da parte dei diversi uffici statali. A questo provvedimento seguì nel 1776 il "Piano e costituzione da osservarsi nel nostro archivio Segreto" grazie al quale si definirono ulteriormente le linee guida relative all'organizzazione e all'ordinamento dell'Archivio segreto. La Pianta, o Piano, riconosceva la duplice funzione dell'istituto, quella di archivio segreto in cui si sarebbero conservate le carte relative alla famiglia regnante, e quella di archivio di concentrazione nel quale avrebbe dovuto confluire la documentazione dai diversi uffici. Si prevedeva, inoltre, che gli atti fossero organizzati per materia di pertinenza (giustizia, affari ecclesiastici, commercio, guerra, etc.) ma tale ordinamento, in realtà, fu applicato solo parzialmente e, in particolare, interessò fondi quali quello dei Feudi e Comunità, dell'Ufficio dei confini e della Real Casa.
Alla morte di don Ferdinando, nel 1802, il ducato passò sotto il dominio francese divenendo, nel 1806, capoluogo del Dipartimento del Taro.
La storia dell'Archivio di quegli anni fu caratterizzata dalla figura del ministro francese Moreau Saint-Méry il quale, secondo Giovanni Drei, sconvolse l'ordine delle scritture facendo estrarre documenti al fine di redigere una storia del ducato. Nel 1805 Moreau Saint-Méry fu sollevato dal suo incarico e la sua raccolta di documenti fu in parte venduta dagli eredi, in parte inserita nell'Archivio ducale e in parte donata alla Biblioteca Palatina di Parma, dove ancora è conservata
Con la cessazione del governo francese e il trattato di Fontainebleu, del 1814 il ducato di Parma, Piacenza e Guastalla fu concesso all'imperatrice Maria Luigia.
A pochi giorni dal suo insediamento, nell'ottobre del 1816, Maria Luigia fece emanare il Decreto e costituzione dell'Archivio generale dello Stato con cui si stabilì che l'archivio dovesse diventare un archivio di concentrazione nel quale confluisse tanto la documentazione dei passati governi, conservata in precedenza nell'Archivio segreto ducale, quanto quella prodotta dall'amministrazione in attività. Lo stesso decreto prevedeva che l'Archivio generale di Stato fosse classificato, indipendentemente dalla provenienza del materiale, in nove sezioni cioè la "Legislativa", "Diplomatica e Alto governo", "Amministrativa", "Topografica", "Storica", "Patrimoniale", "Giudiziaria", "Militare" e "Della Casa dominante". Nonostante le prescrizioni ducali riferite ai versamenti da parte dei dicasteri e al riordinamento della documentazione delineassero un archivio al servizio prevalente dell'amministrazione, i due direttori che si succedettero alla sua direzione, Tommaso Gasparotti (1816 - 1847) e Amadio Ronchini (1847 - 1890) che diede vita, anche grazie all'estrazione di documentazione dai fondi conservati, a numerose collezioni e raccolte di carattere letterario, storico, diplomatico ed epistolare.
Nel quadro della riorganizzazione degli archivi di Stato seguita dall'Unità di Italia, nel 1874, essendo stato Amadio Ronchini designato Soprintendente archivistico per l'Emilia Romagna, l'Archivio di Stato divenne per alcuni anni sede di quell'ufficio e due anni dopo fu istituita la scuola di paleografia.
A Parma, come nelle altre capitali preunitarie, si susseguirono in modo vorticoso e, spesso, senza ordine o strumenti di corredo, i versamenti degli archivi di diversi uffici soppressi come attestato dal quaderno "Depositi e acquisti di carte e manoscritti", in cui si riporta testimonianza, forse incompleta, del progressivo arricchimento dell'Archivio di Stato dal 1815 fino al 1937.
Verosimilmente fin da questo periodo risale l'utilizzo di diversi depositi esterni per ovviare alla carenza di spazio del palazzo della Pilotta, come il Palazzo delle Finanze già Palazzo Farnese Rangoni e ora sede della Prefettura, il palazzo dell'Intendenza di Finanza e dal 1933 l'ex chiesa del Carmine. Quest'ultimo fu in uso fino al 1985, quando la documentazione, costituita soprattutto da atti giudiziari, fu depositata presso l'Ospedale Vecchio.
L'inizio del XX secolo fu caratterizzato dalla redazione di indici e guide come quelle redatte dai direttori Adriano Cappelli (1903 - 1926) e, successivamente, da Giovanni Drei (1930 - 1950). Quest'ultimo, allo scoppio della Seconda Guerra Mondiale, dovette affrontare lo sfollamento di buona parte della documentazione dal Palazzo della Pilotta per ricoverarla presso Villa Paganini a Gaione e a Monticelli. I bombardamenti del 1944 lesionarono gravemente il palazzo della Pilotta, resero inagibile l'antica sede e danneggiarono in maniera irreparabile parte della documentazione. Nel 1948 Drei curò il trasferimento dell'Archivio presso la sede dell'Ospedale Vecchio, già Ospedale della Misericordia. La documentazione danneggiata dai bombardamenti fu raccolta nel cosiddetto Bombardato che ancora oggi continua ad essere oggetto di studio e di riordinamento.
Il periodo postbellico fu contraddistinto dalla compilazione di nuovi strumenti di ricerca come la guida redatta nel 1951 dall'allora direttore Ettore Falconi (1951 - 1970), il quale fotografò la situazione dell'Archivio dopo le dispersioni belliche Nel corso degli anni Settanta il riordino e la produzione inventariale fu contraddistinta dal lavoro di Giuseppe Rabotti (1974 - 1979) che con la stesura dell'Inventario degli inventari costituì la base della Synopsis ad invenienda curata da Pierluigi Feliciati e da Antonella Barazzoni del 1993.
In occasione del trasferimento della sede dall'Ospedale Vecchio a via La Spezia, presso gli ex Magazzini comunali, avvenuto nel 2014, la documentazione è stata oggetto di un approfondito riscontro con gli inventari ed indici presenti in sala di studio. Nel 2015 il Comune di Parma ha messo a disposizione dell'Archivio il cosiddetto Padiglione M, ex Fiere di Parma nel Parco Ducale, per il trasferimento di documenti conservati a Biandrate, in provincia di Novara, dove era stato stoccata parte della documentazione proveniente dalla sede sussidiaria dell'ex Carmine.