Akcja rozgrywa się na początku XX wieku (w latach bezpośrednio poprzedzających wybuch pierwszej wojny światowej) w Szwajcarii, w sanatorium przeciwgruźliczym w pobliżu Davos. Nazwa powieści przywołuje skojarzenia z Górą Gerzelberg (Sinful lub Magic Mountain), gdzie według legendy minnesinger Tannhäuser spędził siedem lat w niewoli u bogini Wenus.
Bohater powieści, młody Niemiec Hans Kastorp, przybywa z Hamburga do sanatorium Berggof, by odwiedzić tam leczonego tam kuzyna Joachima Zimsena. Hans Kastorp zamierza spędzić nie więcej niż trzy tygodnie w sanatorium, ale pod koniec zaplanowanego okresu czuje się źle, czemu towarzyszy wzrost temperatury. W wyniku badania lekarskiego wykazuje oznaki gruźlicy, a pod naciskiem głównego lekarza Behrensa Hans Kastorp pozostaje w sanatorium na dłużej. Od momentu przybycia Hans Kastorp odkrywa, że czas w górach wcale nie płynie tak jak na równinie, dlatego prawie niemożliwe jest określenie, ile dni, tygodni, miesięcy, lat upłynęło między tymi lub tymi opisanymi wydarzeniami i jak długo obejmuje całą powieść. Na samym końcu powieści mówi się jednak, że Hans Kastorp spędził w sanatorium łącznie siedem lat, ale nawet tę liczbę można uznać za pewną konwencję artystyczną.
W rzeczywistości fabuła i wydarzenia, które mają miejsce w powieści, nie są absolutnie ważne dla zrozumienia jej znaczenia. Są tylko pretekstem do zestawienia różnych pozycji życiowych bohaterów i dają autorowi możliwość wypowiedzenia się w wielu ważnych dla niego kwestiach: życiu, śmierci i miłości, chorobie i zdrowiu, postępie i konserwatyzmie, losie ludzkiej cywilizacji u progu XX wieku. W powieści przechodzi kilkadziesiąt postaci - głównie pacjentów, lekarzy i personelu pielęgniarskiego: ktoś wraca do zdrowia i opuszcza Berghof, ktoś umiera, ale nowe pojawiają się na ich miejscu.
Wśród tych, z którymi Hans Kastorp spotyka się już w pierwszych dniach pobytu w sanatorium, szczególne miejsce zajmuje pan Lodovico Settembrini - potomek Carbonari, mason, humanista, zagorzały zwolennik postępu. Jednocześnie, jako prawdziwy Włoch, z pasją nienawidzi Austro-Węgier. Jego niezwykłe, czasem paradoksalne idee, wyrażone w jasnej, często żrącej formie, mają ogromny wpływ na umysły młodego mężczyzny, który zaczyna czcić pana Sethembriniego jako swojego mentora.
Ważną rolę w historii życia Hansa Kastorpa odegrała także jego miłość do rosyjskiego pacjenta sanatorium Madame Claudia Shosha - miłość, z jaką dzięki ścisłemu wykształceniu, jakie otrzymał w rodzinie kalwińskiej, początkowo oparł się z całej siły. Minęło wiele miesięcy, zanim Hans Kastorp porozmawia ze swoją ukochaną - dzieje się to podczas karnawału w przeddzień Wielkiego Postu i odejścia Klaudiusza z sanatorium.
Podczas pobytu w sanatorium Hans Kastorp został poważnie porwany przez wiele pomysłów filozoficznych i przyrodniczych. Uczęszcza na wykłady z psychoanalizy, poważnie studiuje literaturę medyczną, interesuje się zagadnieniami życia i śmierci, studiuje muzykę współczesną, wykorzystując do swoich celów najnowsze osiągnięcia techniki - nagrywanie itp. W gruncie rzeczy nie myśli już o swoim życiu na równinie, zapomina, że znajdzie tam pracę, praktycznie zrywa więzi z kilkoma krewnymi i zaczyna uważać życie w sanatorium za jedyną możliwą formę życia.
Z kuzynem Joachimem sytuacja jest dokładnie odwrotna. Długo i ciężko przygotowywał się do kariery wojskowej i dlatego uważa każdy dodatkowy miesiąc spędzony w górach za niefortunną przeszkodę w realizacji marzenia swojego życia. W pewnym momencie nie może tego znieść i nie zwracając uwagi na ostrzeżenia lekarzy, opuszcza sanatorium, przystępuje do służby wojskowej i otrzymuje stopień oficera. Jednak upływa bardzo mało czasu, a jego choroba pogarsza się, więc zmuszony jest wrócić do gór, ale tym razem leczenie mu nie pomaga i wkrótce umiera.
Krótko przed tym nowa postać wpada do grona znajomych Hansa Kastorp - jezuita Nafta, wieczny i niezmienny przeciwnik Settembrini. Nafta idealizuje średniowieczną przeszłość Europy, potępia samą koncepcję postępu i całą nowoczesną cywilizację burżuazyjną zawartą w tej koncepcji. Hans Castorp wpada w pewne zamieszanie - słuchając długich sporów Settembrini i Nafty, zgadza się z jednym, a następnie z drugim, a następnie znajduje sprzeczności zarówno w jednym, jak i drugim, tak że nie wie już, która strona jest prawdziwa. Jednak wpływ Settembriniego na Hansa Kastorpa jest tak wielki, a wrodzona nieufność do jezuitów jest tak duża, że całkowicie stoi po stronie pierwszego.
Tymczasem Madame Shosha wróciła na jakiś czas do sanatorium, ale nie sama, ale w towarzystwie swojej nowej znajomej - bogatej Holenderki Peperkorn. Niemal wszyscy mieszkańcy sanatorium w Berggof znajdują się pod wpływem magnetycznym tej bezwarunkowo silnej, tajemniczej, choć nieco uzależnionej od języka osoby, a Hans Kastorp odczuwa z nim pokrewną więź, ponieważ łączy ich miłość do tej samej kobiety. I to życie kończy się tragicznie. Gdy nieuleczalnie chory Peperkorn idzie na spacer do wodospadu, bawi swoich towarzyszy na wszystkie możliwe sposoby, wieczorem wraz z Hansem Kastorpem piją do Brudershaft i przełączają się na „ciebie”, pomimo różnicy wieku, a wieczorem Peperkorn przyjmuje truciznę i umiera, wkrótce Madame Shosha opuszcza sanatorium - aby tym razem najwyraźniej na zawsze.
Od pewnego momentu w duszach mieszkańców sanatorium „Berghof” zaczyna się odczuwać niepokój. Zbiega się to z przybyciem nowego pacjenta - Duńczyków Ellie Brand, który ma pewne nadprzyrodzone zdolności, w szczególności potrafi czytać myśli na odległość i wywoływać duchy. Pacjenci są uzależnieni od spirytyzmu, organizują sesje, w których bierze udział Hans Kastorp, pomimo żrących szyderstw i ostrzeżeń jego mentora Settembrini. To po takich sesjach, a być może w wyniku ich wcześniejszego zmierzonego upływu czasu w sanatorium, które zostało naruszone. Pacjenci kłócą się, od czasu do czasu pojawiają się konflikty w najbardziej nieistotnej sytuacji.
Podczas jednego ze sporów z Naftą Settembrini twierdzi, że korumpuje młodzież swoimi pomysłami. Potyczka prowadzi do wzajemnych zniewag, a następnie do pojedynku. Settembrini nie chce strzelać, a następnie Nafta strzela kulą w jej głowę.
A potem uderzył grzmot wojny światowej. Mieszkańcy sanatorium zaczynają wracać do domu. Hans Castorp również wyjeżdża na równinę, rozstając się z panem Settembrini, aby walczyć tam, gdzie jest blisko krwi, chociaż sam pan Settembrini wydaje się popierać zupełnie inną stronę w tej wojnie.
W ostatniej scenie Hans Kastorp jest przedstawiany jako biegający, czołgający się, przewracający się wraz z tymi samymi młodymi mężczyznami w płaszczach żołnierza, którzy wpadli do maszynki do mięsa z II wojny światowej. Autor celowo nie mówi nic o ostatecznym losie swojego bohatera - historia o nim się skończyła, a autor nie był zainteresowany swoim życiem, ale tylko jako tło dla tej historii. Jednak, jak zauważono w ostatnim akapicie, Hans Kastorp ma niewielkie szanse na przetrwanie.
