Die Sammlung des heutigen Gemäldebestandes des Kulturhistorischen Museums Magdeburg geht auf die Mitte des 19. Jahrhunderts zurück. Das erste „Verzeichnis der im Besitze der Stadt befindlichen Gemälde“ wurde ab 1895 angelegt und beginnt mit zwei großformatigen Magdeburger Stadtansichten des Malers Carl Hasenpflug. Es handelt sich um Auftragswerke der Stadtverwaltung anlässlich dem 200sten Gedenken an die Zerstörung der Stadt im Jahr 1631. Durch Schenkungen, Stiftungen und gezielte Erwerbungen wuchs die Sammlung sehr schnell und zur Eröffnung des Kaiser Friedrich Museums 1906 waren bereits 350 Werke inventarisiert.

Die ältesten Tafelbilder sind zwei kleine italienische Ikonen aus dem 13. Jahrhundert, ursprünglich Teile eines Altars. Die wertvollsten Arbeiten sind unter den vielen Exponaten zwei Werke von Lucas Cranach des Älteren und zwei Altartafeln aus der Cranachwerkstatt. Die genannten Gemälde sind in der Dauerausstellung zu sehen. Schwerpunkte der Sammlung sind nach den erheblichen Verlusten im Zweiten Weltkrieg und der Aktion Entartete Kunst Arbeiten aus dem 19. Jahrhundert mit zahlreichen Landschaften, Porträts und Werken, die zur Zeit der DDR entstanden sind. Aktuell befinden sich im Bestand der Gemäldesammlung 846 Kunstwerke.

Die Grafiksammlung des Kulturhistorischen Museums Magdeburg verfügt über einen Bestand von mehr als 40.000 Zeichnungen und Drucken des 15. bis zum 20. Jahrhundert. Zu den frühesten Blättern zählen Holzschnitte aus der „Sachsenchronik”, und der „Schedelschen Weltchronik”. Die Arbeiten des 16. Jahrhunderts umfassen vornehmlich Holzschnitte und Kupferstiche der deutschen Kleinmeister wie die Gebrüder Beham. Aber auch Werke von Albrecht Dürer sind vertreten. Kupferstiche und Radierungen des 17. Jahrhunderts  zeichnen sich durch regionale Vielfalt aus: Claude Lorrain, Stefano della Bella, Rembrandt van Rijn. Drucke des 18. Jahrhunderts stammen zum Beispiel von Johann Friedrich Klusemann, Giovanni Piranesi und vielen anderen Künstlern. Die Grafiken des 19. Jahrhunderts umfasst Satireblätter und Karikaturen wie Daumier und antinapoleonische Darstellungen, aber auch deutsche Künstler der Romantik. Das frühe 20. Jahrhundert ist in Magdeburg vorrangig durch deutsche Expressionisten vertreten (Dix, Beckmann u.a.). Arbeiten von Lehrern und Absolventen der Magdeburger Kunst- und Gewerbeschule wie Bruno Beye, Walter Dexel sind hier ebenso zu finden. Ein besonderes Kleinod stellen die Zeichnungen und Aquarelle des späten 18. und frühen 19. Jahrhunderts dar. Darunter sind Arbeiten von Adrian Zingg, Ludwig Richte oder Carl Blechen.

Ganz in ihrem Metier ist die Diplom-Kunstwissenschaftlerin Sabine Liebscher, die hier im Depot der Gemäldesammlung die Kunstbestände der Malerei und Grafik verwaltet.