P. Mathias Wolff lahir pada tanggal 9 Maret 1779 di Diekirch, kota kecil yang terletak di kaki gunung Herrenburg, wilayah yang bernama Middle-Sauer di Luxemburg. Ayahnya bernama Mathias Wolff dan Ibu Anna Maria Zenner.Di dalam rumah orang tuanya, Mathias kecil tumbuh dalam kesalehan yang sederhana dan menyaksikan iman yang kuat.
Pada tahun 1790-1791 ia belajar di Kolese Theresianum di Luxemburg. Tahun berikutnya ia belajar pada sekolah Biara Benediktin di Stavelot (Belgia). Tahun 1799 pemerintah Perancis menyuruh pemuda-pemuda Luxemburg supaya masuk tentara Perancis. Mathias Wolff juga harus mendaftarkan diri untuk masuk tentara bersama teman-temannya. Dalam pendaftaran ia mendapat nomor yang paling tinggi. Wolff langsung lari ke perbatasan Jerman dan dalam waktu dua tiga hari ia sampai di kota Köln. Di sana ia mendapat kesempatan belajar filsafat dan teologi di Universitas Köln yang dipimpin oleh beberapa mantan pater Yesuit. Jalan imamat terbuka baginya.