Orosházán született kispolgári-szegényparaszti családban. A szülői ház Orosháza szélső utcájában volt, vele szemben már a szántóföldek húzódtak. Középiskoláját is helyben, az orosházi Táncsics Mihály Gimnáziumban végezte 1953–1957 között, s kitűnő tanuló érdemrenddel fejezte be. 1957–1962 között a szegedi egyetemen magyar-történelem szakon, majd 1959–1963 között latin szakon tanult. Tanárai közül Szádeczky-Kardoss Samu, Karácsonyi Béla és Wittman Tibor volt rá a legnagyobb hatással. 1962/63-ban a történeti szakkönyvtárban kapott munkát, majd 1963–2004 között a Középkori Magyar Történeti Tanszéken (1989-től Középkori és Kora Újkori Történeti Tanszék néven) oktatott. Doktori címet 1962-ben, a kandidátusit 1969-ben, akadémiai doktori fokozatot 1977-ben, az MTA levelező tagságát 1998-ban vívta ki. Ennek megfelelően egyre emelkedett az egyetemi beosztásokban is: docens 1970-ben, professzor 1978-ban lett. 1977–1979 között dékánhelyettes, 1982–1985 között rektor, majd 1987–1990 között dékán volt, vagyis a párt által kinevezett dékánok közül ő állt utoljára a kar élén. Gyorsan emelkedett mind a tudományos, mind az egyetemi ranglétrán. Tulajdonképpen egyetlen tisztség, a tanszékvezetés volt az, amit csak kissé megkésve nyert el. Csak 1983-ban (hat évvel a nagydoktori fokozat, öt évvel a professzori és egy évvel a rektori cím elnyerését követően), Serfőző Lajos dékán és a történész pártalapszervezet vezetőinek (Gyimesi Sándor és Makk Ferenc) együttes támogatásával sikerült a mindössze kandidátusi fokozattal rendelkező Szántó Imrétől átvennie a Középkori Magyar Történeti Tanszék irányítását, s azt utána egészen 1995-ig meg is tartotta.

Kutatási területe a középkori magyar történelem és a történeti segédtudományok. A legtermékenyebb szegedi történész, hiszen száznál több önálló kötete és 300 tanulmánya, cikke jelent meg. Összefoglaló monográfiákban tárgyalta a 9–14. századi magyar történelem különböző kérdéseit (honfoglalás, az állam és a vármegyék kialakulása, a 11. századi hercegség, a székelyek eredete, a magyar nemzet megszületése. Feldolgozta az Árpád- és Anjou-kori magyar hadtörténetet, több kötetben foglalkozott a korai magyar helynevekkel. Jelentős a forráskiadó tevékenysége (Thuróczy János krónikája, Anjou-kori oklevéltár). Kristó Gyula nemcsak saját tudományos munkásságát végezte, hanem több évtizedes tevékenysége során (Makk Ferenccel és több egykori hallgatójával együttműködve) középkorász műhelyt és középkorász doktori iskolát szervezett maga körül, amely önálló kiadványsorozattal is rendelkezik. A sorozat címe: Szegedi Középkortörténeti Könyvtár, amelynek eddig 29 kötete jelent meg. A sorozat egyébként az egyedüli középkori témájú könyvsorozat hazánkban. A középkori Magyar Királyság 1301–1387 közötti időszakára vonatkozó összes oklevelet regeszta formájában részletes jegyzetanyaggal közreadó Anjou-kori oklevéltár a magyar történettudomány legnagyobb szabású vállalkozása, s már 51 kötetnél jár. Középkortörténeti munkái mellett 1978–1994 között az öt kötetben megjelent Szeged története című monográfiasorozat és az azt kiegészítő kronológiai kötet főszerkesztője volt. Szintén az ő főszerkesztésével és több tucat kutató közreműködésével készült el a magyar történettudomány első és máig legnagyobb terjedelmű enciklopédikus összefoglalása a magyar történelem első fél évezredéről (Korai magyar történeti lexikon: 9–14. század. Budapest, 1994).

Pályája kezdetétől fogva erőteljesen törekedett arra, hogy fiatalokat neveljen, foglalkozzon velük. Nem véletlen, hogy a ’90-es évekre tanítványai között már volt egyetemi tanár a pécsi és szegedi egyetemen, továbbá több más felsőoktatási intézményben tanítottak a keze alatt végzett, illetve PhD fokozatot nála szerzett fiatalok. Szegeden szinte valamennyi munkatársa a tanítványa volt egykor. 1998-ban Szeged díszpolgári címmel, 2002-ben a Pécsi Tudományegyetem díszdoktori címmel tüntette ki.