Nach Österreich (ÖAV, 1862) gründeten deutsche Alpinisten im noch ungeeinten Deutschland am 9. Mai 1869 den „Deutschen Alpenverein“ (DAV). Unter diesem Datum bildete sich als erste Sektion die Sektion München.
Bereits nach kurzer Zeit schlossen sich aufgrund gleicher Interessen ÖAV und DAV feierlich am 28. August 1873 zum DuÖAV zusammen und räumten sich gegenseitig die Mitnutzungsrechte in ihren Alpenvereinshütten ein.
In Magdeburg gab es 1883 21 Alpenvereinsmitglieder, die, ohne miteinander in Verbindung zu stehen, in 7 verschiedenen Sektionen zwischen Salzburg und Hamburg geführt wurden. Mitte November 1883 veröffentliche die „Magdeburgische Zeitung“ einen Aufruf, unterzeichnet u.a. von Adolf Mittag und Hermann Rocholl, zur Bildung einer Alpenvereinssektion.
Bereits am 24.11.1883 kamen 39 Bergfreunde zusammen und beschlossen die Gründung der Sektion Magdeburg zum 1. Januar 1884. Es war die 93. Sektion des DAV, Ob.-Reg.- Rat Hermann Rocholl war ihr 1. Vorsitzender und übte dieses Amt 30 Jahre aus. Unter seiner segensreichen Leitung entschied sich die Sektion Magdeburg für ein Arbeitsgebiet in den Stubaier Alpen, speziell für die steilen südlichen Abstürze zum Pflerschtal. Die Magdeburger bauten 1887 im „Magdeburger Winkel“ die „Magdeburger Hütte“ und 1892 die „Tribulaunhütte“. Nach intensiver Aufbauarbeit und reger Nutzung der Hütten kam es als Folge des 1. Weltkrieges zur entschädigungslosen Enteignung. Die Hütten fielen an Italien.
Mit neuem Mut und Elan übernahm die Sektion Mitte der 20er Jahre im Karwendelgebiet ein neues Arbeitsgebiet und kaufte zwei ältere Hütten. Nach der Rekonstruktion erhielt die eine Hütte den Namen „Neue Magdeburger Hütte“. Sie trägt diesen Namen noch heute. Die zweite Hütte behielt ihren Namen „Aschbachhütte“ (heute „Aspachhütte“, nurmehr ein Stützpunkt der Bergrettung). 1940 kauften die Magdeburger als dritte Hütte das „Kelchalpenhaus“ (Nähe Kitzbühel).
Auch in Magdeburg wurde die Vereinssatzung 1933 dahingehend geändert, dass Mitglieder fortan "die leibliche und seelische Erziehung im Geiste des nationalsozialistischen Volksstaates" erfahren sollten.
Ende des 2. Weltkrieges beschlagnahmten die Alliierten das deutsche Vermögen im Ausland. Sie überließen Österreich allerdings später die ehemals deutschen Hütten kostenlos.
Der DAV mit seinen Sektionen wurde verboten. Während sich in Westdeutschland bald neue Alpenclubs, Bergvereine usw. bilden konnten, gab es gleichwertige Vereine in der DDR nicht bzw. im DWBO (Deutscher Verein für Wandern, Bergsteigen und Orientierungslauf) mit Einschränkungen.
Der 1950 neu gegründete DAV kaufte die in österreichischem Besitz befindlichen Hütten ehemaliger ost- und mitteldeutscher Sektionen zurück. Am 11. 5.1956 wurde zwar eine Exilsektion "DAV Magdeburg, Sitz Köln" gegründet, aber bereits am 19.12.1965 wieder aufgelöst; an einen Rückkauf der ehemals sektionseigenen Hütten war nicht zu denken. Die „Neue Magdeburger Hütte“ gehört seit 1968 der Sektion Geltendorf und das ehemalige „Kelchalpenhaus“ besitzt nunmehr die Sektion Bochum. Diese Hütte heißt jetzt „Bochumer Hütte“.
Nach der Wende führten erste Kontakte und ihr kontinuierlicher Ausbau zwischen Braunschweiger und Magdeburger Berg- und Wanderfreunden schließlich am 3.9.1993 zur Wiedergründung der Sektion Magdeburg. Durch die aktive Tätigkeit engagierter Mitglieder erreichte die Sektion beachtliche jährliche Zuwächse, sodass 2015 die Marke von 1000 Mitgliedern übersprungen wurde; nur vier Jahre später waren es bereits 1500 Mitglieder, 2023 dann 2000. Diese gehen ihren Interessen im In- und Ausland in der Hochtourengruppe, der Wandergruppe, den Klettergruppen, einer Radwandergruppe und der Familiengruppe nach.
Im Sommer 1999 führte die Sektion als erste in den neuen Bundesländern die Hauptversammlung des Gesamtvereins in der Stadthalle mit mehr als 600 Teilnehmer*innen durch.
Seit dem Jahr 2000 verfügt die Sektion über eine Geschäftstelle mit regelmäßigen Öffnungszeiten, seit 2006 in der Dodendorfer Straße. Neben der Klärung von organisatorischen Dingen können Mitglieder Bücher, Wanderführer oder -karten, aber auch Ausrüstungen für alpine oder Wandertouren ausleihen. Im Jahr 2019 wurde die Online-Mitgliederaufnahme eingerichtet, die den ehrenamtlichen Geschäftsstellen-Teams die Arbeit sehr erleichtert, und die Räume der Geschäftsstelle wurden in Eigenleistung aufwändig renoviert.
In der Corona-Pandemie ab 2020 gelang es, das Vereinsleben zumindest teilweise aufrecht zu erhalten; dabei wurden neue Lösungen gefunden wie Online-Stammtische mit Bier am Bildschirm, Anmeldeprocedere für Klettertermine, kontaktloses Klettern u.v.m.