Han blev i en alder af tre år forældreløs sammen med sine to søskende og blev opdraget af sin mormor i Herning. Her voksede de tre søskende op i et hjem præget af den missionske tro.
Han fik i 1914 en realeksamen med høje karakterer, og samme år fik han plads som elev på Løveapoteket i Nakskov. Få måneder før han skulle til den afsluttende eksamen i København, afbrød han uddannelsen, sandsynligvis på grund af et begyndende alkoholmisbrug.
Han blev 1919 ansat på Holbæk Amts Avis som journalist, men fyret i 1920 på grund af en længere druktur, og han fik i stedet arbejde som journalist ved et fagblad.^[2]Han blev fyret 1922 og arbejdede derpå som løsarbejder, men han var ikke fysisk stærk nok til at klare det hårde arbejde. Han begyndte at vagabondere og kom 1922 på Mændenes Hjem i København.
Den hårde tilværelse tærede på hans helbred, og i 1926 opgav han livet som vagabond   og fik et værelse hos søsteren Emma Pilegaard i Viborg, hvor han også fik fast arbejde på en skofabrik. Med hjælp fra søsteren og broderen Carl kom han til hægterne igen. Hans vagabondtilværelse gav ham inspiration til "Vagabonden med det milde åsyn" og "Natsamaritanen".
Hans første digtsamlingNattens Pibere udkom i 1926, og i de følgende år skrev Nis Petersen sin roman Sandalmagernes gade, der foregår i det gamle Rom. Efter at han havde fuldført manuskriptettil Sandalmagernes gade, havde han ikke tålmodighed til at vente på, at den blev antaget af et forlag, og tog i sommeren 1931 ophold i Tvøroyri på Færøerne. Efter romanens udgivelse i december samme år og enestående succes tog han som nybagt berømthed i januar 1932 tilbage til København.
1934 skrev han romanen Spildt mælk fra den irske borgerkrigi 1922. Den foregår overvejende i et let genkendeligt Waterford   i det sydøstlige Irland, hvor Nis Petersen boede 1932-1933 sammen med sin kone, skuespillerinden Ellen Malberg. Ægteskabet var relativt lykkeligt, men varede kun fra 1931 til 1936.
I 1936 kom han til afvænning for sit alkoholmisbrug i Hultafors i Sverige og begyndte et mindre selvdestruktivt liv. Her skrev han novellen "Miraklet i Kósá" og digtet "Færinger-frænder", som begge er inspireret af opholdet i Tvøroyri.
1938 blev han gift med Annalise Staggemeier og flyttede til landsbyen Laven mellem Ry og Silkeborg, hvor parret boede, til Nis Petersens døde af kræft i 1943.
På husmuren i Store Sct. Mikkelsgade nr. 10 i Viborg er der opsat en mindetavle for Nis Petersen, som boede her fra 1926 til 1929, hvor han begyndte at skrive romanen Sandalmagernes gade.
I Laven, over for det sted hvor han boede, er der rejst en buste af ham. Bag på stenen er indhugget teksten: "Det sker vel, at sangeren segner. Det hænder, han glemmer sin ed. Des klarere lyser mindet om den, der usvigelig red."
Der er udgivet flere cd'er med hans tekster, komponeret af H.W. Gade og indsunget af Gitte Lund, H.W Gade og Arne Elkrog.
I 2006 blev digtene "Forlad os vor skyld" og "Jeg samler på de små børns smil" optaget i Højskolesangbogen.
 
  

• 1937 Det anckerske Legat
• 1942 Gyldendals boglegat

 Bibliografi
 

Digt af Nis Petersen
Hans enkle vers og lange prosadigte indeholder anger og selverkendelse, som f.eks.: