Tradicija zbiranja, ohranjanja in varovanja arhivskega gradiva na območju Pokrajinskega arhiva Maribor, je mnogo starejša kot sama institucija.
Na ožjem mariborskem območju lahko skrbi za pisano besedo sledimo v daljno leto 1164. Listina iz tega časa izpričuje najstarejšo omembo mariborskega gradu, hkrati pa je to najstarejši ohranjeni pisni dokument, ki je nastal na našem območju.
V Mariboru je arhivska dejavnost (v ožjem pomenu besede) dobila potrebno osnovo šele sredi 19. stoletja. To se je zgodilo s preselitvijo Lavantinske škofije iz Št. Andraža na Koroškem v Maribor. Takrat so med drugim k nam preselili tudi staro, bogato in za širši prostor pomembno arhivsko gradivo.
Konkretne potrebe in želje po ohranjanju kulturne dediščine, s posebnim poudarkom na arhivalijah, pa je nato mogoče slediti s kratko epizodo Lavantinskega škofijskega muzeja, ki je bil ustanovljen leta 1896 ter leta 1902 ustanovljenega nemškega Muzejskega društva.
Leta 1903 so slovenski izobraženci v Mariboru ustanovili Zgodovinsko društvo za Slovensko Štajersko. V tem okviru so začeli zbirati arhivsko gradivo privatne provenience - predvsem zapuščine štajerskih kulturnih delavcev. Leta 1909 so sklenili, da bodo arhivsko gradivo tudi publicirali.
Ideja o ustanovitvi javnega arhiva v Mariboru se je pojavila že v začetku 20. stoletja. Formalno so jo uresničili šele leta 1933, ko so sprejeli Poslovnik Banovinskega arhiva v Mariboru in s tem ustanovili mariborsko arhivsko institucijo. Delovno območje Banovinskega arhiva je po takratnem poslovniku obsegalo vso bivšo slovensko Štajersko, jugoslovanski del Koroške in Prekmurje.
Leta 1941, ko je arhiv prenehal obstajati kot samostojna ustanova, so ga kot oddelek priključili mariborskemu muzeju. Njegove strokovne aktivnosti pa so skoraj ugasnile.
Kot samostojna arhivska kulturna ustanova je bil arhiv obnovljen šele v začetku l. 1952 z nazivom Državni arhiv LRS - podružnica Maribor. Leta 1963, je mariborski arhiv s statutom dobil svoj današnji naziv: Pokrajinski arhiv Maribor in še danes pristojno območje.