Το καλοκαίρι του 1997, ο σιδηροδρομικός Γιώργος Τομπουλίδης παρατήρησε απολιθωμένα οστά ζώων σε ένα μονοπάτι, στη θέση Πεύκα της Θερμοπηγής. Ένα χρόνο μετά, το 1998, έφερε ένα δείγμα στο Αριστοτέλειο Πανεπιστήμιο και η παλαιοντολόγος Δρ. Ευαγγελία Τσουκαλά διαπίστωσε ότι είναι απολίθωμα καμηλοπάρδαλης με μεγάλο επιστημονικό ενδιαφέρον. Αμέσως με τους συνεργάτες της επισκέφθηκε την περιοχή. Οι ανασκαφές, που ξεκίνησαν από την αυτοψία του 1998, υποστηρίχτηκαν από την τότε Νομαρχιακή Αυτοδιοίκηση Σερρών και τον τότε Δήμο Σιδηροκάστρου. Τα αποτελέσματα των ανασκαφών ήταν άκρως ενδιαφέροντα και εντυπωσιακά, καθώς η αφθονία των απολιθωμάτων και η ποικιλία στη σύνθεση της πανίδας δίνουν σημαντικά  στοιχεία: Προσδιορίστηκαν ιππάρια (κοντόσωμα άλογα με τρία δάκτυλα στα πόδια τους σε αντίθεση με τα σημερινά που είναι ψηλότερα και με ένα δάκτυλο στο πόδι), ρινόκεροι, μαστόδοντες (προϊστορικοί ελέφαντες), καμηλοπαρδάλεις, γαζέλες, αντιλόπες, αγριόχοιροι, μεγάλα σαρκοφάγα (μαχαιρόδοντες, ύαινες),7-7,5 εκατομμυρίων ετών. Το πιο σημαντικό εύρημα μέχρι τώρα είναι το παγκοσμίως καλύτερα διατηρημένο κρανίο του αγκυλοθήριου, ενός περισσοδάκτυλου φυτοφάγου ζώου που έχει εξαφανιστεί, και που ανήκει στην ίδια τάξη των αλόγων, τάπιρων και ρινόκερων. Το 2001 έγινε η ανακαίνιση του παλαιού σχολείου της Θερμοπηγής, το 2002 έγινε η παρουσίαση της έκθεσης στους κατοίκους της Θερμοπηγής και το 2004 η μετατροπή του σε θεσμοθετημένο «Μουσείο Φυσικής Ιστορίας Δήμου Σιδηροκάστρου» (ΦΕΚ 881/Β/14-6-2004).Το 2011 πραγματοποιήθηκε η επίσημη παρουσίαση στο κοινό της έκθεσης με ομιλίες για την παλαιοντολογική ανάδειξη της περιοχής και τη Σπηλαιολογία με τη συμμετοχή των κατοίκων της Θερμοπηγής, πολλών εκπροσώπων της Τοπικής Αυτοδιοίκησης και επισκεπτών, οι οποίοι είχαν την ευκαιρία να θαυμάσουν τον προϊστορικό πλούτο της περιοχής. Στην εκδήλωση αυτή έγινε και η παράδοση στον Δήμαρχο Σιντικής του κρανίου του αγκυλοθηρίου, μετά από την πλήρη και μακροχρόνια αποκατάστασή του, ενώ απονεμήθηκε έπαινος στις ομάδες ανασκαφών του Α.Π.Θ. και του Πανεπιστημίου της Βιέννης. Οι συστηματικές ανασκαφές που πραγματοποιήθηκαν το 2011, 2013 και 2015 έγιναν σε συνεργασία και με επιχορήγηση από το Ινστιτούτο Παλαιοντολογίας του Πανεπιστήμιου της Βιέννης, στο πλαίσιο της εκπαιδευτικής και ερευνητικής του διαδικασίας. Τοπικά ΜΜΕ (ΕΤ3, ΔΙΚΤΥΟ, ΡΟΔΟΛΙΒΟΣ κ.α.), εφημερίδες, περιοδικά, όπως το NationalGeographic. Το 2020 με τη συνδρομή του Δήμου και του Ε. Βλάχου ολοκληρώθηκε ένας κύκλος αξιοποίησης της παλαιοντολογικής έκθεσης με την παροχή επιστημονικών πληροφοριών για τα απολιθώματα και συλλογές που στεγάζονται στο Μουσείο. Λόγω της ελλιπούς χρηματοδότησης την τελευταία δεκαετία, η ολοκλήρωση της έρευνας και ανασκαφής, παρά το πλουσιότερο υλικό απολιθωμάτων της Ανατολικής Μακεδονίας, δεν ολοκληρώθηκε.