Γεννήθηκε στις 10 Μαΐου του 1905 στον συνοικισμό Σκαλί της Άνω Χώρας της Σύρου από οικογένεια Καθολικών. Οι γονείς του ήταν φτωχοί αγρότες και ήταν ο πρωτότοκος από έξι αδέλφια. Ο παππούς του έγραφε τραγούδια και ο πατέρας του έπαιζε πίπιζα που πολλές φορές από μικρή ηλικία τον συνόδευε ο μικρός Μάρκος παίζοντας νταούλι σε διάφορα πανηγύρια. Για το θρήσκευμά του απέκτησε αργότερα και το παρατσούκλι «Φράγκος».
Σε ηλικία 12 ετών ο Βαμβακάρης έφυγε από τη Σύρο, μετά από μια ζημιά που προξένησε άθελά του και πήγε στονΠειραιά, όπου αργότερα τον ακολούθησε και η οικογένεια του. Εκεί ασχολήθηκε με διάφορα επαγγέλματα όπως λιμενεργάτης (φορτοεκφορτωτής, εργάτης γαιανθράκων, στα λεγόμενα καρβουνιάρικα), λούστρος, εφημεριδοπώλης, εργάτης σε κλωστήρια, και περίπου το 1925 ως εκδορέας στα δημοτικά σφαγεία. Εκείνη την εποχή ο Μάρκος Βαμβακάρης ερωτεύτηκε τρελλά και παντρεύτηκε μια κοπέλα αμφιβόλου ηθικής που την έλεγαν Ζιγκοάλα που ήταν πόρνη στο επάγγελμα.Τότε έμαθε μπουζούκι και άρχισε να γράφει τραγούδια, εντυπωσιάζοντας με την ταχύτητα που έμαθε το όργανο αυτό και με την ικανότητά του, την ευρηματική πενιά του, τη δεξιοτεχνία του και την καταπληκτική στιχογραφία του.
Συμμετείχε μαζί με το Γιώργο Μπάτη, το Στράτο Παγιουμτζή και τον Ανέστη Δελιά στο πρωτοποριακό για την εποχή μουσικό σχήμα που ονομάστηκε «Η Τετράς η ξακουστή του Πειραιώς». Το 1933 με την πιεστική παρότρυνση τουΣπύρου Περιστέρη o Μάρκος Βαμβακάρης κυκλοφόρησε την πρώτη ηχογράφηση με μπουζούκι στην Ελλάδα, το «Καραντουζένι» («Να 'ρχόσουνα ρε μάγκα μου») ερμηνεύοντάς το ο ίδιος παρ΄ όλο που είχε σοβαρές επιφυλάξεις για την ποιότητα της φωνής του. Η περίοδος λίγο πριν το Β' Παγκόσμιο Πόλεμο είναι ίσως η παραγωγικότερή του. Μεταξύ άλλων το 1935 γράφει και ηχογραφεί τη «Φραγκοσυριανή», το γνωστότερο ίσως τραγούδι του, το οποίο όμως έγινε επιτυχία 25 χρόνια αργότερα με τη φωνή του Γρηγόρη Μπιθικώτση. Ο ίδιος αφηγείται για τη δημιουργία του τραγουδιού:
"Όλος ο κόσμος της Σύρου μ' αγαπούσε πολύ, διότι κι εγώ ήμουν Συριανός και το είχαν καμάρι οι Συριανοί. Κάθε καλοκαιράκι με περίμεναν να πάω στη Σύρα να παίξω και να γλεντήσει όλη η Σύρα μαζί μου. Το 1935 πήρα μαζί μου τον Μπάτη, τον αδερφό μου τον μικρό και τον πιανίστα Ροβερτάκη και πήγα για πρώτη φορά στη Σύρο, σχεδόν είκοσι χρόνια αφ' ότου έφυγα από το νησί. Πρωτόπαιξα, λοιπόν, σ' ένα μαγαζί στην παραλία, μαζεύτηκε όλος ο κόσμος. Κάθε βράδυ γέμιζε ο κόσμος το μαγαζί κι έκατσα περίπου δύο μήνες. Εγώ, όταν έπαιζα και τραγουδούσα, κοίταζα πάντα κάτω, αδύνατο να κοιτάξω τον κόσμο, τα έχανα. Εκεί όμως που έπαιζα, σηκώνω μια στιγμή το κεφάλι και βλέπω μια ωραία κοπέλα. Τα μάτια της ήταν μαύρα. Δεν ξανασήκωσα το κεφάλι, μόνο το βράδυ την σκεφτόμουν, την σκεφτόμουν..... Πήρα, λοιπόν, μολύβι κι έγραψα πρόχειρα:
Μία φούντωση, μια φλόγα
έχω μέσα στην καρδιά
Λες και μάγια μου΄χεις κάνει
Φραγκοσυριανή γλυκιά...
Ούτε και ξέρω πως την λέγανε ούτε κι εκείνη ξέρει πως γι ' αυτήν μιλάει το τραγούδι. Όταν γύρισα στον Πειραιά, έγραψα τη Φραγκοσυριανή."
Ο Μάρκος Βαμβακάρης αποδείχτηκε ατυχέστατος στο γάμο του με τη Ζιγκοάλα. Τον απατούσε ακόμη και με τον καλύτερό του φίλο, αλλά εκείνος εξακολουθούσε να την αγαπάει. Αυτό έγινε αιτία να ξεσπάσει άγριος καυγάς μεταξύ αυτού και του μεγάλου του αδελφού. Το διαζύγιο δεν άργησε να εκδοθεί. Όμως και μετά το διαζύγιο η "κυρία" εξακολουθούσε να έχει οικονομικές απαιτήσεις. Αυτό ο Μάρκος Βαμβακάρης το αντιμετώπισε εξ' ίσου προκλητικά ως εξής: Έγραφε τα τραγούδια του ακόμα και αυτοβιογραφικά που τον φωτογράφιζαν ως δημιουργό τους (πχ ο Πολυτεχνίτης)σε ονόματα όπως του Περιστέρη και του Μάτσα καθώς και σε ψευδώνυμα ανύπαρκτων προσώπων (φυσικά εισπράτοντας ο ίδιος τα πνευματικά δικαιώματα). Με αυτόν τον τρόπο κατάφερνε να μειώσει στο ελάχιστο το προσωπικό τεκμαρτό του (όχι το πραγματικό) εισόδημα και η "κυρία" να μην του πάρει τίποτα. Για αυτήν την ιστορία ο Μάρκος έγραψε το αυτοβιογραφικό του τραγούδι «Το διαζύγιο»
Το 1937 συμβιβάζεται με τη λογοκρισία του καθεστώτος Μεταξά και προσαρμόζει τους στίχους του. Ήταν τόσο πολύ δημοφιλής που στη μια από τις τρεις φορές που επισκέφτηκε τη Θεσσαλονίκη και έδωσε συναυλία μαζεύτηκε για να τον ακούσει 50.000 κόσμος, στην πλατεία του Λευκού Πύργου. Γι αυτό γράφει το τραγούδι "Το 1912" στο οποίο υμνεί τη Θεσσαλονίκη ενώ παραδόξως ως τότε δεν είχε κάνει ούτε μια αναφορά σε κάποιο τραγούδι του για τον Πειραιά, την πόλη που ζούσε και δημιουργούσε. Κατά τη διάρκεια του Ελληνοϊταλικού πολέμου ερμηνεύει τραγούδια δικά του και του Σπύρου Περιστέρη με στίχους προσαρμοσμένους στο δοξασμένο ελληνοϊταλικό έπος (Γειά σας φανταράκια μας, Το όνειρο του Μπενίτο κ.α.)
Κατά τη διάρκεια των δύσκολων ετών της γερμανικής κατοχής πέθαναν οι μεγάλοι (και ασυμβίβαστοι) στηλοβάτες της ελληνικής ρεμπέτικης μουσικής Παναγιώτης Τούντας, Κώστας Σκαρβέλης, Γιοβάν Τσαούς, Βαγγέλης Παπάζογλου ο στενός συνεργάτης του Ανέστης Δελιάς και ο ερμηνευτής με τη συγκλονιστική φωνή Γιώργος Κάβουρας για τον οποίο ο Μάρκος Βαμβακάρης συνέθεσε το ομώνυμο τραγούδι. Ο Μάρκος Βαμβακάρης καταφέρνει και επιβιώνει. Το 1942 παντρεύτηκε για δεύτερη φορά την Ευαγγελία με την οποία απέχτησε 5 παιδιά εκ των οποίων 2 πέθαναν και από τ΄ άλλα τρία τον Βασίλη, τον Στέλιο και τον Δομένικο οι δύο τελευταίοι έγιναν γνωστοί μουσικοί.
Όμως ο θάνατος των παραπάνω μουσικών δεν έμελλε να αφήσει ανεπηρέαστη την πορεία του Μάρκου Βαμβακάρη. Έτσι μετά την απελευθέρωση και κατά την περίοδο 1948-1959 περνάει δύσκολες ώρες, καθώς η ελληνική μουσική βιομηχανία, τα ηνία της οποίας περνάνε σε χέρια ανθρώπων που ο Μάρκος Βαμβακάρης είχε βοηθήσει να αναδειχτούν φέρεται αχάριστα στον πρωτοπόρο του μπουζουκιού που θεωρείται «ξεπερασμένος». Oι κατευθύνοντες τη κοινή γνώμη με πρωτοστάτες τον Απόστολο Καλδάρα, το Στέλιο Χρυσίνη και άλλους ήθελαν να δώσουν στο Ελληνικό Τραγούδι το Ινδικό Στυλ κάτι τελείως ξένο με το στυλ του Μάρκου Βαμβακάρη. Οι δισκογραφικές εταιρίες παύουν να τον καλούν για ηχογραφήσεις και τα μεγάλα νυχτερινά κέντρα του αρνούνται τη συνεργασία. Περνάει σοβαρές περιπέτειες με την υγεία του (παραμορφωτική αρθρίτιδα στα δάχτυλα κάτι που τον δυσκολεύει να παίζει το μπουζούκι) και την οικονομική του κατάσταση (έφτασε στα όρια της οικονομικής εξαθλίωσης) ενώ αφορίζεται από την Καθολική Εκκλησία γιατί παντρεύτηκε δεύτερη φορά (με ορθόδοξο γάμο) (ο αφορισμός ήρθη το 1966). Ο Μάρκος Βαμβακάρης ξανακαταφέρνει και επιβιώνει αλλά και αποκαθιστά το πρόβλημα υγείας με ιαματικά λουτρά στην Ικαρία. Το 1954 (ξεχασμένος από τους περισσότερους) επισκέφτηκε τη Σύρο όπου έμεινε για ένα έτος και γνωρίζει την αποθέωση από τον κόσμο της Σύρου που δεν τον ξεχνά. Παίζει και τραγουδάει στην Ταβέρνα του Λιλή, στην Άνω Σύρο όπου γίνεται το αδιαχώρητο.
Αυτά μέχρι τα τέλη της δεκαετίας του '50, όταν μετά από πρωτοβουλία του Τσιτσάνη, η δισκογραφική εταιρία Columbia αποφασίζει να κυκλοφορήσει παλιά και καινούρια τραγούδια του Βαμβακάρη, τραγουδισμένα από τον ίδιο και από καλλιτέχνες όπως ο Γρηγόρης Μπιθικώτσης, η Καίτη Γκρέι, η Άντζελα Γκρέκα κ.ά. Το 1960 αρχίζει η «δεύτερη καριέρα», του όπως χαρακτηρίζεται από τον ίδιο.
Αναγνωρίζεται σαν η μεγαλύτερη φυσιογνωμία του ρεμπέτικου τραγουδιού με μπουζούκι
Ο Μάρκος Βαμβακάρης πέθανε στις 8 Φεβρουαρίου του 1972 σε ηλικία 66 ετών συνεπεία νεφρικής ανεπάρκειας που δημιούργησε σακχαρώδης διαβήτης. Όπως δήλωσε ο ίδιος ο γιός του Μάρκου Βαμβακάρη, ο Δομένικος, σε γνωστή τηλεοπτική εκπομπή, για την κηδεία του πατέρα του η οικογένειά του αναγκάσθηκε να καταφύγει σε δάνειο προκειμένου να καλύψει τα έξοδα της κηδείας.
