Újverbászon született, gimnáziumi éveit Újvidéken kezdte, majd Szarvason fejezte be. Egyetemi tanulmányait 1895–1899 között az Eötvös Kollégium tagjaként a budapesti tudományegyetemen végezte. 1899-ben német nyelv és irodalom középiskolai tanári és egyetemi doktori oklevelet szerzett. Ezután Pozsonyban és Budapesten gimnáziumi tanárként oktatott.

1901–1906 között Geszten gróf Tisza István fiának volt a nevelője, közben többször járt tanulmányúton a lipcsei, a berlini és a heidelbergi egyetemen. A budapesti kereskedelmi akadémián a német nyelv (1907–1909), a királyi magyar tudományegyetemen a német nyelvészet magántanára (1909). Oktatott az egyetemi rangra emelés előtt álló debreceni református főiskolán (1910–1912), s két tanéven át segítette az újonnan induló debreceni egyetemen a német szak elindítását is (1912–1914).

1911. augusztus 22-én nevezték ki a kolozsvári Ferenc József Tudományegyetemre nyilvános rendes egyetemi tanárrá, 1921–1945 között a Kolozsvárról elűzött egyetem Germán Filológiai Intézetének vezetését látta el. Kolozsváron 1914–1916 között két alkalommal is a kar dékánja volt. Szegeden jelentős szerepet játszott új intézetek létrehozásában és új szakok indításában, nemcsak mint kari vagy egyetemi vezető, de mint több újonnan létrehozott intézet megbízott vezetőjeként is. Nagy hatással volt a szegedi tanárképzésre, miután az egyetemmel együttműködő főiskolai képzést elindították Szegeden (1928).

Tudományos munkájának elismeréséül 1923-ban az MTA levelező tagjává választották. Ettől az évtől a Magyar Nyelvtudományi Társaságban és az Országos Ösztöndíjtanácsban tevékenykedett, választmányi tagja volt a Filológiai Társaságnak. Az 1923/1924. és az 1933/1934. tanévben dékáni tisztséget töltött be, az 1932/33. tanévben a szegedi Ferenc József Tudományegyetem rektora volt. Szerkesztette a Német Filológiai Dolgozatokat (1912–1932), majd Germanisztikai Füzetek (Germanistische Hefte) köteteit. A kiadvány 1933-tól két sorozatban jelent meg: az A-sor magyarul (8 kötet), a B-sor németül (2 kötet) az intézet által gondozott doktori értekezéseket tartalmazta.

Kutatási területe a magyarországi németek eredete, nyelvjárásaik keletkezése, valamint a német nyelv és irodalom tanításának módszertani kérdései voltak: A hangváltás tör­vényszerűségéről a középfelnémet nyelvjárások alapján (1906), Lauthlehre der rheinfränkischen Mundart der Sprachinsel Verbasz in Südungarn (1911), Die deutschen Mundarten in Südungarn (1914), Die deutschen Mundarten (1928), Haus und Hof der Donauschwaben (1930).Ugyanakkor Tisza István boldog évei (1923) címmel monográfiát írt Tisza Istvánról.

A második bécsi döntés és a kolozsvári egyetem visszatérése után Schmidt Henrik Szegeden maradt. Az új egyetem létesítésével azonban vezetési problémák mutatkoztak, melyek egy részének megoldásában nagy szerepet vállalt Schmidt Henrik. Átvette a Néprajzi Tanszék irányítását 1941–1944 között, sőt az 1943/1944. tanévben még a Régészeti Tanszék és a Klasszika-Filológiai Intézet vezetésére is megbízást kapott. Fő tevékenységi területe a német nyelvjárások kutatása volt: a magyarországi németek eredetét és művelődési viszonyait vizsgálta szóföldrajzi és településtörténeti szempontból.

Nyugdíjas éveit Szegeden töltötte, és 1953-ban bekövetkezett halálát követően a szegedi Belvárosi temetőben helyezték örök nyugalomra.