Budapesten munkáscsaládban született 1936. február 19-én. A gimnáziumot Miskolcon végezte el, majd 1954-ben felvették az ELTE Bölcsészettudományi Karán magyar-német szakra. Az egyetem sikeres elvégzését követően 1958-ban kinevezték a bicskei gimnázium tanárává. Még ugyanabban tanévben (1958/1959) jelentkezett a TMB által meghirdetett aspirantúrára, de a Mészöly Gedeon halálával megürült szegedi finnugor tanszékre kerülő Hajdú Péter 1960-ban felvette tanársegédnek, így Mikola a gyors aspirantúra helyett Szegeden kezdett egyetemi oktatói karriert. 1960–1964 között tanársegéd, 1964–1970 között adjunktus, 1970–1984 között docens, 1984-től pedig professzor volt. Közben 1968-ban megvédte kandidátusi értekezését, és 1974-től volt tanszékvezető. Akadémiai doktori fokozatot 1998-ban szerzett A szamojéd nyelvek története c. értekezése megvédésével. Szegedi munkahelyén gyorsan beilleszkedett a tanszék általános uralisztikai és szamojedológiai programjába, melyet ő maga obi-ugor és ősmagyar irányú kutatásaival bővített. Később valamennyi uráli nyelvre kiterjedő kutatásokat végzett, bár ennek ellenére a szegedi tanszék megtartotta a hazai szamojéd és obi-ugor nyelvészetben betöltött központi szerepét.

Mikolának egészen kimagasló nyelvérzéke volt: a németen kívül tudott oroszul, finnül, észtül, angolul, svédül, sőt a franciával is elboldogult (a többit konferenciaszinten használta), sőt még arra is vállalkozott, hogy hollandból németre fordítva külön kötetben adja ki a 17. századi Witsen útleírásának az uráli népekre vonatkozó részleteit. Mikolának köszönhetjük azt az átfogó leírást, amely a szamojéd nyelvek történetét mutatja be, melynek hangtörténeti részét a legújabb kutatási eredmények alapján később kiegészítette, illetőleg átírta. Ebben olyan módosításokat javasol Janhunen és Helimszkij rekonstrukcióihoz, amelyek konzekvensen következnek Mikola alapelképzeléseiből és változáselméletéből.

Mikolának sikerült a korábbi kezdeményezésű Néprajz és Nyelvtudomány című évkönyv zavartalanabb és lassan bővülő kiadását biztosítani, de nagy gondja volt az altajisztikai tanszékkel közösen indított Studia Uralo-Altaica idegen nyelvű sorozat fenntartására is. Az utóbbi a vele párhuzamos magyar nyelvű Supplementa alsorozattal együtt az 50. számot, az előbbi pedig a 40. számot érte el. Ezek a kiadványok tanítványai előtt is nyitva álltak: itt jelentek meg a Mikola-iskolához tartozó fiatalok első tanulmányai, melyek jó elvi alapokra és megbízható (jobbára saját gyűjtésű) adatokra épülnek. Ennek az iskolának a tagjai a nála eltöltött évek alatt szép örökséget kaptak.

Korán felfigyelt reá a mértékadó szakmai közvélemény. 1964-től a Societas Uralo-Altaica, 1973-től a Finn Irodalmi Társaság, 1978-tól a Finnugor Társaság, 1990-től a Reguly Társaság tagja. 1993-tól az MTA Uráli Nyelvészeti Bizottságának, 1997-től a Magyar Nyelvtudományi Társaság finnugor szakosztályának elnöke. Gyakori és közkedvelt szereplőjévé lett nemzetközi rendezvényeknek, számos országba hívták előadások tartására vagy vendégprofesszornak. Sem elismertség, sem rang, sem pozíció nem változtatta meg jellemét: megmaradt ugyanolyan szerény, családját előtérbe helyező egyszerű tanárnak, amilyennek hozzánk érkezett.

1979–1984 között dékánhelyettes, 1984–1987 között, majd 1990–1992 között dékán volt. Dékánhelyettesi és első dékáni ciklusát még az állampárt kinevezésének köszönhette, 1990-ben azonban ő lett a kar első, az egyetemi autonómia évszázados rendjének megfelelően a professzorok által megválasztott dékánja. Az országos rendszerváltásnak köszönhetően ebben a ciklusban történt meg az MSZMP és KISZ kari szervezeteinek felszámolása, a hallgatói önkormányzat felállítása, a korábbi évtizedekben erős politikai és ideológiai színezetű képzési rend színesítése és számos új szak megindítása. Dékánként ezeknek a folyamatoknak a helyi megvalósításában jelentős szerepe volt. 1996–2000 között a Kari Doktori Tanácsot irányította. Kari közéleti tevékenysége sohasem akadályozta abban, hogy kiváló oktatói és nemzetközi hírű tudományos kutatómunkát végezzen. A Szegeden töltött négy évtized alatt agyar és finnugor szakos hallgatók ezrei élvezhették előadásait, szemináriumait az elmúlt évtizedekben, s tanulhattak tőle a szakismeretek mellé életbölcsességet is. Szegeden 2000. június 13-án, élete 64. évében hunyt el.