De vader van Martinus Veltman, origineel uit Schagen, en zijn moeder (uit Drunen) woonden in eerste instantie in Drunen, waar zijn vader onderwijzer was. Toen hij aangesteld werd als hoofdonderwijzer op de St. Clemensschool in Waalwijk verhuisde het gezin naar de Baardwijksestraat in Waalwijk. Daar werd Martinus geboren, als vierde kind in een gezin van 6. 

Onderwijs volgde Martinus op de St. Clemensschool en in de periode 1943-1948 op de HBS in de Meester Van Coothstraat. In zijn vrije tijd was hij vooral bezig met radio en electronica. Ook was hij lid van een tafeltennisvereniging. "Mijn jeugdvrienden waren onder andere Antoon van Mierlo (zoon van een buurman, medewerker van de krant “Echo van het Zuiden), en Harry Donkers (die ik een paar jaar geleden weer tegenkwam in Parijs)."
Hoewel hij een vrij gemiddelde leerling was op de HBS overtuigde zijn natuurkundeleraar, de heer Beunes, zijn ouders ervan dat Veltman beter kon gaan studeren dan naar de MTS te gaan. Voor een jongen uit Waalwijk was dat in die tijd bijzonder.

Veltman ging in 1948 wis- en natuurkunde studeren aan de Universiteit van Utrecht. "Tijdens mijn studie in Utrecht was ik gedurende ongeveer twee jaar leraar aan het Dr. Mollercollege, in wezen dezelfde middelbare school als die welke ik eerder als leerling doorlopen had. De heer Beunes werd mijn collega."
Na drie jaar op en neer reizen tussen Waalwijk en Utrecht ging hij ook in Utrecht wonen.

Het onderwijs inspireerde hem niet echt, pas na vijf jaar haalde hij zijn kandidaats. Kort daarna kwam hij in aanraking met de relativiteitstheorie en sindsdien verdiepte hij zich meer in de theoretische natuurkunde. Omdat die in Utrecht voornamelijk bestond uit statistische mechanica werd hij nog steeds niet echt geraakt door de studie.
Dat veranderde met de komst van professor Leon van Hove die hem wél inspireerde en bij wie hij in 1956 afstudeerde.

In 1963, toen hij inmiddels werkzaam was bij CERN (Europees laboratorium voor deeltjesfysica) in Genève, voltooide hij zijn proefschrift dat zowel gewijd was aan instabiele deeltjes als aan berekeningen voor de productie van vectorbosonen in de CERN neutrino-experimenten en promoveerde. 
Tussen 1963 en 1966 ontwikkelde hij het computerprogramma Schoonschip dat het mogelijk maakte analytische wiskundige berekeningen uit te voeren. Schoonschip ligt aan de basis van belangrijke computertalen als Mathematica en Maple.

Veltmans belangstelling ligt zowel in de theoretische als in de experimentele natuurkunde. Vooral zijn theoretische werk aan de vereniging van de elektromagnetische kracht en de zwakke kernkracht is baanbrekend geweest. Voor dit werk aan de Universiteit Utrecht ontving hij in 1999 samen met Gerard van 't Hooft de Nobelprijs voor de Natuurkunde. De prijs werd gegeven voor "het ophelderen van de kwantumstructuur van de elektrozwakke interacties in de natuurkunde".
Veltman was hoogleraar aan de Universiteit van Utrecht (1966 - 1981) en de Universiteit van Michigan (1981 - 1996). In dezelfde periode was hij tijdelijk hoogleraar aan verschillende universiteiten in Spanje, Nederland (Leiden) en Duitsland. Sinds 1996 is hij met emeritaat en woont hij weer in Nederland.

Veltman is Waalwijk zeker niet vergeten. "Als ik aan Waalwijk denk dan denk ik vooral aan de tijd dat de Engelsen, Canadezen en Polen daar waren. Ik herinner me het rondbrengen van getypte nieuwsberichten (niet veel mensen hadden toen nog een radio) en het gebulder van de kanonnen. Met name de aanval op Drunen ging gepaard met een urenlang durend trommelvuur."

In Waalwijk kwam hij nauwelijks meer. "Ik kwam regelmatig in Waalwijk omdat mijn broer Kees (die bij de gemeente werkte) daar woonde. Sinds zijn overlijden in 2005 ben ik er echter nog maar sporadisch geweest."