A herbárium eredete visszanyúlik a Juhász Gyula Tanárképző Főiskola elődjének, a Polgári Iskolai Tanárképző Intézet idejére. Ennek egykori állattan-növénytan tanára, majd igazgatója, Vangel Jenő vezette be azt a gyakorlatot, hogy a mennyiségtan-természettudományi szakcsoport, valamint az Apponyi Kollégium hallgatói évente külföldi tanulmányi kirándulásokat tettek a Magas-Tátrába, a karsztvidékre, a délkeleti Kárpátokba és az adriai tengerpartra. Ezeket az utakat a Semsey-alap támogatta, és a hallgatók feladata az volt, hogy a Paedagógium gyűjteményét gyarapítsák, feldolgozzák és publikáljanak. Az egykori tanárjelöltek közül többen neves botanikusok lettek (Greguss Pál, Nyárády E. Gyula, Fóriss Ferenc, Quint József, Straub Ferenc). Az általuk 1903–1914 között gyűjtött növények vetették meg az alapját a jelenlegi herbáriumnak.
A botanikai gyűjtemény történetében igen jelentős szerepe volt Moesz Gusztávnak, aki a Magyar Nemzeti Múzeum Növénytárának őreként (mai szóhasználattal muzeológusaként) hosszú időn keresztül óraadóként tevékenykedett a Paedagógiumban. Ez idő alatt a Növénytár sok értékes anyagot adott át herbáriumunknak. Így kerültek a gyűjteménybe Borbás Vince, Dégen Árpád, Filarszky Nándor, Janka Viktor, Simonkai Lajos és sok más neves hazai és külföldi botanikus herbáriumi lapjai. Moesz Gusztáv Jávorka Sándor közreműködésével átnézte a hallgatók által gyűjtött növények determinálását is. A tanszéki herbárium alapgyűjteményének létrehozásában csaknem hatvan szakember vett részt. Közülük a következőket emeljük ki: Borbás Vince, Boros Ádám, Budai József, Czakó Kálmán, Chyzer Kornél, Dégen Árpád, Entz Jolán és Margit (Entz Géza lányai), Filárszky Nándor, Fóriss Ferenc, Gáyer Gyula, Greguss Pál, Győrffy István, Janka Viktor, Jávorka Sándor, Kováts Gyula, Kümmerls Jenő, Magócsy-Dietz Sándor, Megyeri János, Moesz Gusztáv, Quint József, Szépligeti Győző és Wágner János.
A gyűjtemény sok külföldi eredetű növényt is tartalmaz. Ezek a lapok valószínűleg a századforduló idején igen elterjedt csereegyletek útján kerültek hozzánk. Különösen a franciaországi, olaszországi és ausztriai anyag gazdag.
Herbáriumunk nagybecsű példányai a Dégen Árpád szerkesztésében a budapesti Magyar Királyi Vetőmagvizsgáló Állomás gondozásában 1902-ben kiadott Graminea Hungarica kötetei. Érdekesség, hogy az Állattani Tanszék későbbi vezetője, Megyeri János is az intézménynek ajándékozta herbáriumát (250 lap), amelynek példányait még hallgató korában gyűjtötte szülőfaluja, Medgyesbodzás és Szeged környékén 1938-ban, valamint Erdélyben. Ez nemcsak virágos növényeket, hanem mohákat, zuzmókat és egy növénypatológiai gyűjteményt is tartalmazott. A mohok gyűjteménye – amelyet egy vitrinben, a Tudástár folyosóján állítottunk ki – is jelentős tudománytörténeti értéket képvisel. Legszebb, színes hátterű lapjait Péterfy Márton bryológus gyűjtötte Erdélyben 1896-ban. Mórócz Sándor (1902), Libisch Lőrincz (1902), Gábos Győző (1903) és Móczár Miklós (1905) mohafajai is a gyűjtemény részei.
A herbárium lapjait utoljára Véghné Varga Izabella vette nyilvántartásba 1961-ben, ekkor összesen 7929 darabot tartalmazott (a virágos növények mellett 478 moha, 972 zuzmó és 212 alga). Ebben a számban nem szerepel a Dégen Árpád-féle Magyar Füvek gyűjteménye. Véghné dolgozatában a következőket írja: „A herbárium adatainak részletes feldolgozása az egyes szakterületek specialistáira vár. Ez a magyar flóra kialakult eredményeit lényegesen már alig befolyásolja, azonban az egyes fajok újabb termőhelyi adatai a fajok elterjedési körének ismeretét bővíthetik. Napjainkban a magyar táj forradalmi változáson megy keresztül. A természetes növénytakaró későbbi rekonstrukciójához ezek a herbáriumi adatok nagy segítséget nyújthatnak.”