Narodil se 31. ledna 1963 v Hollabrunnu, malém městě v Dolním Rakousku, a vyrůstal ve vesnici Wullersdorf, vzdálené jen 30 kilometrů od Znojma. Během přípravy na kněžství ve Vídni zároveň studoval koncertní hru na varhany. Kněžské svěcení přijal v roce 1988 a brzy nato se stal ceremoniářem pomocného biskupa Helmuta Krätzla: „Dva roky jsem s ním cestoval, včetně mnoha návštěv farností. Měl jsem velký kontakt s lidmi, což mě utvrdilo v rozhodnutí: Být s lidmi jako kněz a žít církev je moje cesta.“ O to se Josef Grünwidl snažil během svého působení v různých farnostech, naposledy od roku 2014…