A középkori Gyula története írott forrásokból csak a 14. századtól követhető nyomon. S bár a városban iskolát először csak 1508-ban keltezett oklevél említ, minden bizonnyal ezt megelőzően is működött iskola az Árpád-kori Benedek rendi monostorban. A feljegyzések szerint tanították ebben az iskolában a "hét szabad művészetet". Leghíresebb növendéke Szerémi György, a Magyarország romlásáról írt emlékirat szerzője. A 16. század közepe táján a Ferenc rendiek főiskola idetelepítését határozzák el, amely a protestánsok iskolájával egyetemben áldozatul esik a török terjeszkedésnek.

A török időben katolikus iskola nem volt Gyulán. A 129 évi tartó török uralom után Gyula Békés vármegye székhelye lett, s a jómódú iparos, kereskedő lakosság mellett a megyei tisztviselők szaporodó sokasága arra törekedett, hogy helyben biztosítható legyenek a magasabb iskoláztatás feltételei. Az iskola egy időben jött létre a lelkészség megalakulásával. Mind a Magyar-, mind a Németvárosnak megvolt a maga tanodája, amelyet a kántorok láttak el, akik egyszersmind templomszolgák, mi több, a Németvárosban jegyzők is voltak. 1735-ben épült a török utáni első iskolaépület, amely ma is iskolai célokat szolgál (Erkel tér 2.). Az újkori Gyula első tudós pedagógusa Petik Ambrus 1745-től négy évtizeden át felsőbb iskolákra is felkészítette növendékeit iskolájában. 1850 táján a kántor vezetésével egy második osztályt is nyitottak, melyet Petik "deákoskolának" nevez Békés vármegye leírása című művében. "Azoknak kiből feljebbvaló tudományokból való tanulására nagyobb iskolára kelvén sokak mind papi méltóságra, mind pedig világi tisztségekre jutottak". 1795-ben mindkét város elhatározta, hogy a Németvárosban egy, a Magyarvárosban pedig két iskolát rendeznek be, mely utóbbinak "második klasszisában az ifjúság a deák nyelvnek eleiben annyira, amennyire a literátum szisztéma kíván elkészíttetvén onnan a deákiskolákban mindenütt bevezetődhessen". Az első németgyulai iskola 1795-ben épült, a mai Erkel Múzeum helyén. A 19. század elején jeles kísérlet játszódik le egy gimnázium felállítására, melynek pénzügyi alapját az un. Vida alapítvány teremtette meg. A napóleoni háborúk kedvezőtlen gazdasági következményei vetnek véget e tiszteletre méltó szándéknak. 1832-ben készült el mai formájában a mostani katolikus kollégium épülete abban a városrészben.
1875-ben a katolikus leányok tanítását a Paulai Szent Vincéről elnevezett irgalmas nővérek vették át. 1877-ben egy női kézimunka szakiskola felállításáról határoztak. 1875-től gazdasági gyakorló kertje is volt a katolikus iskolának.
1908-ban a józsefvárosi (németvárosi) iskola új épülettel bővült - a Jókai utca - Apor tér sarkán - Gróh Ferenc prelatus-kanonok jóvoltából (Gróh-iskola).
A szaléziak 1930-ban kezdték meg működésüket Gyulán a szalézi fiúinternátusban.
1928-29-ben történt a józsefvárosi iskola (ma katolikus leánykollégium) átépítése mai formába.
Az 1930-as években Apor Vilmos apátplébános kezdeményezésére épült két katolikus óvoda. Egy a Temesvári úton, egy pedig Máriafalván, a város akkor két legszegényebb negyedében.
A Karácsonyi János Katolikus Általános Iskola és Gimnázium jogelődjében a Gyulai Római Katolikus Főgimnáziumban 1903-ban kezdődött meg a tanítás. A gimnázium alapításában elévülhetetlen érdemeket szerzett Wenckheim Krisztina grófnő: 1892-ben a koronázás 24. éves évfordulóján 50 ezer Ft-os alapítványt tett a Gyulán létesítendő Római Katolikus Főgimnázium javára. Alapítványát Schlauch Lőrinc, Nagyvárad bíboros püspökének kezébe tette le. A gimnázium építéséhez alkalmas telket szintén a Wenckheim grófok ajánlották föl. (A békési református gimnázium létesítése is a katolikus Wenckheim grófoktól indul el) Az első tanév megkezdéséig alapos előkészítő munkák folytak, melynek nagyon fontos állomása volt.

1899-es esztendő. A közoktatásügyi kormányzat ebben az évben módosította addigi álláspontját, hogy a megye már meglévő három gimnáziuma mellett fontos, hogy a vármegye székhelyén is létesüljön főgimnázium. Krisztina grófnő, miután a felkért szerzetesrendek elhárították az iskola vezetésére szóló meghívást, hozzájárulását adta, hogy a gimnázium a katolikus jelleg fenntartása mellett szerzetesek nélkül működjék. A gimnázium épülete Alpár Ignác főépítész tervei alapján valósult meg.
Az 1903-1904-es első tanévre 54 tanuló iratkozott be, s folyamatosan felmenő rendszerben bővült 8 évfolyamos gimnáziummá.

1942-ben vette föl a város szülöttének, a kiváló történettudós dr. Karácsonyi János választott püspöknek a nevét. S viselte az államosításig, 1948-49-ig. (Az utolsó tanévben már Állami Karácsonyi János Gimnázium néven.) Az államosított intézmény 1950-től Erkel Ferenc Gimnázium néven működött.

1992-ben Gyulay Endre szeged-csanádi megyéspüspök támogatásával, Réthy István akkori gyulai plébános, illetve az intézmény később kinevezett igazgatójának, Petróczki Zoltánnak vezetésével történt meg a katolikus oktatás újjászervezése. 1994-től Kovács József plébános látja el a gyulai katolikus intézmények közvetlen egyházi felügyeletét. Karácsonyi János Katolikus Általános Iskola és Gimnázium néven egy intézményi keretben szerveződött az iskola. Az általános iskolai tagozat az első tanévet a helyi református egyházközség által szervezett református osztályokkal kezdte, mivel a reformátusoknak nem állt rendelkezésére megfelelő iskolaépület. 1993-ban a református rész önálló intézménnyé szerveződött. Az első tanévben négy elemi iskolai évfolyammal, valamint az első két gimnáziumi évfolyammal indult meg a tanítás. Két év alatt vált teljessé a 12 évfolyamos szerkezet. Jelenleg az általános iskola 8 évfolyamán egy-egy osztállyal (7. évfolyamtól hatosztályos gimnáziumi képzéssel kiegészítve), a gimnázium 4 évfolyamán két-két osztállyal rendelkezik. A gimnázium a történelmi hagyományoknak megfelelően felekezeti szempontból vegyes összetételű, a diákok kétharmada katolikus, egyharmada protestáns. 1995-ben érettségizhetett - fél század elteltével - ismét diák katolikus gimnáziumban Gyulán. Az itt érettségizett diákok mintegy fele tett ezt követően sikeres felvételi vizsgát egyetemre, főiskolára. Ez idáig négyen választották a papi hivatást.

Az óvodától a gimnáziumig, a kisgyermekkortól a felnőttkorig tartó nevelési-oktatási rendszer 1996-ban vált teljessé, egyszersmind az országban is egyedülállóvá azáltal, hogy a Boldog Apor Vilmos Óvoda, valamint a Szent Anna és a Szent Gellért Kollégium is megkezdhette működését.
Iskolánk jelmondata Karácsonyi János kedvelt mondása: "Ha Isten úgy akarja, feltámad minden, ami elbukni látszik."