W 1622 roku wybuchła epidemia chorób, która spustoszyła dobra biskupie. Biskup krakowski Marcin Szyszkowski złożył wówczas ślubowanie, że jeśli za wstawiennictwem św. Karola Boromeusza – patrona chroniącego przed morowym powietrzem – zaraza ustanie, wybuduje kaplicę lub kościół pod jego wezwaniem… Zaraza ominęła Kielce, zaś biskup dotrzymał obietnicy.

Kościół został erygowany 2 maja 1624 roku. Lokalizacja uwarunkowana była bliskim położeniem Kielc, możliwością budowy w przyszłości drogi krzyżowej oraz bliskością surowców budowlanych. Akt erekcyjny kościoła zachowany w odpisie dokumentu wyjaśnia intencję podjętej przez biskupa fundacji.

W 1628 roku zakończono budowę kościoła i złożono w nim relikwie św. Karola Boromeusza, co nadało Karczówce znaczenie szczególne. Budowniczymi obiektu byli przeważnie górnicy z pobliskich wsi. Duszpasterstwo w parafii sprawowali wikariusze kieleckiej kolegiaty.