Το Smoke on the Water ηχογραφήθηκε στο Μοντρέ της Ελβετίας τον Δεκέμβριο του 1971. Οι Deep Purple είχαν πάει εκεί με το φορτηγό ηχογραφήσεων των Rolling Stones για να ετοιμάσουν το νέο τους δίσκο.
Η διαμονή τους θα γινόταν σε ένα τοπικό ξενοδοχείο-καζίνο, του οποίου ο ιδιοκτήτης λεγόταν Κλωντ Νομπς. Την πρώτη ημέρα, ο Frank Zappa και το συγκρότημα του, οι Mothers of Invention έδιναν μία συναυλία στον χώρο του καζίνο και οι Purple πήγαν να τους παρακολουθήσουν. Κατά τη διάρκεια της συναυλίας, ένας φανατικός οπαδός του Zappa εισέβαλε στο χώρο και με ένα όπλο για φωτοβολίδες, έριξε στην οροφή της αίθουσας, η οποία ήταν φτιαγμένη από μπαμπού και έπιασε φωτιά. Το κοινό έφυγε χωρίς να υπάρξει πρόβλημα, αλλά ο χώρος των προγραμματισμένων ηχογραφήσεων είχε καταστραφεί.
Το συγκρότημα αναγκάστηκε να ψάξει για άλλο χώρο διαμονής και κατέληξε στο θερινό ξενοδοχείο «Grand Hotel». Όταν ο μπασίστας Ρότζερ Γκλόβερ ξύπνησε το επόμενο πρωινό και είδε τον καπνό να έχει καλύψει τη λίμνη, τα πρώτα λόγια που είπε ήταν «Smoke on the Water». Ο Ίαν Γκίλαν δεν "ψηνόταν" ιδιαίτερα, αλλά τελικά ο τίτλος παρέμεινε! Οι στίχοι είχαν γραφτεί σε μία χαρτοπετσέτα κατά τη διάρκεια της πυρκαγιάς...