Med overførelsen af de sindssyge til Århus var vejen banet for en tiltrængt reform af hospitalet. I 1859 skrev Justitsministeriet til hospitalets direktion, dvs. stiftamtmanden og biskoppen, at det nu var det rette tidspunkt til en reorganisation. Der skulle opstilles en plan for hospitalets fremtidige virke, og fundatsen skulle underkastes en grundig revision. I 1861 kunne der fremlægges forslag til ombygning og indretning med henblik på hospitalets fremtidige bestemmelse.
Der vides ikke meget om de gamle bygninger fra før ombygningen i 1860erne. Der er dog enkelte arkitekttegninger, gjort i forbindelse med ombygningen, som kan give et indtryk af bygningerne. Hovedbygningen havde således smukt svungne gavle.
I "Beskrivelse over Randers Kjøbsted" fra 1804 gengiver Snæbiørn Asgeyrsen Stadfeldt sit indtryk af hospitalets bygninger således:
"Hospitalets Hovedbygning bestaaer af tvende grundmurede fløie. I Vinkelen af Bygningen som vender mod Nord og Øst, er Indgangen til Kirken, hvilken deels ved indlukkede Stole og deels ved Pilaer og Døre er skildt fra begge Fløiene, hvor lemmerne opholde sig.
Videre haver Hospitalet til den tredje Fløi en Bindingsværks Bygning, som bruges til Vaskerhuus og til at forvare Brændsel udi, med mere.
Forstanderen haver frie Beboelse i en bygning, som østen for Hospitalet".
2. slesvigske krig, der endte med nederlaget i 1864, og usikkerhed om man skulle bygge nyt eller ombygge det gamle hospital, bevirkede, at iværksættelsen af byggeriet trak ud.
Men ved kgl. resolution af 4. april 1866 blev byggearbejdet endelig vedtaget. De eksisterende bygninger skulle underkastes en gennemgribende restaurering og ombygning. Det viste sig dog under arbejdet, at bygningerne var i dårligere stand end ventet, så man måtte rive mere ned end oprindeligt planlagt. Der skulle videre opføres 2 nye længer og nogle udhuse. Omkostningerne blev anslået til 40.000 rigsdaler, der skulle afholdes af hospitalets midler.
Den 2. november 1867 holdtes der rejsegilde på den nye hospitalsbygning. Bygningen, der var tegnet af arkitekt professor Walther, bestod af 3 fløje i røde mursten væsentligst i een etage. I hovedfløjen var kirken, bygget i norditaliensk stil med bjælkeloft og pulpiturer langs sidemurene.
Hele byggeriet kostede godt 71.000 rigsdaler, altså tæt på en fordobling af den budgetterede udgift.
I følge den nye fundats fra 1868 havde Randers Hospital til formål at give værdigt trængende af begge køn understøttelse dels i hospitalet, dels uden for dette. 100 beboere skulle have ophold på hospitalet, 1/3 kvinder og 2/3 mænd.
Efter fundatsens § 3 skulle der ved optagelse tages "…særligt Hensyn til saadanne værdige Trængende, som efter den bedre Livsstilling, hvori de forhen have levet, vilde blive lidende fremfor Andre, ifald de ingen anden Hjælp kunne faae end den, det almindelige Fattigvæsen kan yde, hvorimod saadanne Personer, der efter deres Stilling snarere egne sig til at henvises til Forsørgelse af det almindelige Fattigvæsen, ikkun undtagelsesviis bør optages i Stiftelsen".
Beboerne skulle have bolig og brændsel enten i et værelse forsynet med kakkelovn med kogeindretning, alkove og et skab, eller 2 kvinder skulle dele 2 værelser; det ene til dagligstue, det andet til sovekammer.
Beboerne benævntes i 1868-fundatsen endnu "lemmer". I den næste fundats fra 1936 erstattedes benævnelsen af "alumner".
Ved optagelsen i hospitalet skulle man medbringe sengeklæder og et passende stykke bohave til opbevaring af klæder. Hvad man havde af penge og værdipapirer, skulle afleveres til forstanderen, der skulle kvittere behørigt for modtagelsen. Rente og udbytte tilgik beboeren.
Ved beboerens død tilfaldt alt, hvad man ejede, hospitalet. Det var modstykket til, at hospitalet påtog sig forsørgelsen og bekostede begravelsen. Endnu i 1936-fundatsen bestod denne ordning. Den er selvsagt siden ophørt. Nu gælder de almindelige regler i arveloven.
1868-fundatsen videreførte den hidtidige ledelsesstruktur på Randers Hospital. Den øverste ledelse af hospitalet var henlagt til en direktion bestående af biskoppen over Århus Stift og stiftamtmanden over Århus Stift, før 1660 lensmanden på Dronningborg. Direktionen, som altså udgjordes af stiftsøvrigheden, skulle ifølge fundatsen "… tage Beslutning i alle Sager, som ere henlagte under Directionens Rådighed, saavelsom at føre Tilsyn med at Stiftelsens Tarv i alle Henseender iagttages og at Inspectionen og Forstanderen opfylde deres Pligter".
I 1830 var der blevet oprettet en inspektion til at varetage det løbende tilsyn. Inspektionen bestod ved oprettelsen af den kgl. udnævnte borgmester, byfogden og sognepræsten ved Sct. Mortens Kirke. Da embedet som kgl. udnævnt borgmester bortfaldt i 1926 indtrådte den folkevalgte borgmester i inspektionen. Endvidere nedlagdes embedet som byfoged ved retsplejereformens ikrafttræden i 1919. Herefter bestod inspektionen af borgmesteren, sognepræsten og politimesteren med sidstnævnte som formand.
Ordningen med en overordnet direktion i Århus og en nær inspektion i Randers afløstes ved fondsloven af 1984 af en bestyrelse, hvori indtrådte medlemmerne af direktion og inspektion med stiftamtmanden som formand.
Forstanderen blev ansat af direktionen, men skulle udnævnes ved kgl. resolution efter indstilling fra justitsministeren. Forstanderens pligter og rettigheder var nøje opregnet i 1868-fundatsen. Forstanderen havde fri bolig med gårdsplads og en andel af haven efter direktionens bestemmelse. Lønnen var 1.000 rigsdaler årligt med et tillæg hvert 3. år på 100 rigsdaler. Lønnen kunne dog ikke overstige 1.500 rigsdaler. Hertil kom 100 rigsdaler årligt til brændsel og en kontorholdsgodtgørelse på 300 rigsdaler. Forstanderen skulle stille sikkerhed på 5.000 rigsdaler "for de ham betroede Oppebørsler".
Der skulle dog ikke gå mange år, før pladsen blev for trang, og man måtte udvide hospitalet. I 1899-1900 blev de gamle bygninger hørende til møllen på hospitalsgrunden revet ned. På stedet opførtes en administrationsbygning i røde sten i 2 etager efter tegning af arkitekt H. F. Estrup. Forstanderboligen i den gamle bindingsværksejendom i Kirkegade flyttedes til den nye fløj, og den fredede ejendom blev udlejet til forretningsbrug. Den blev senere frasolgt. Som nævnt skiftede Randers Hospital i 1949 navn til Randers Kloster. Ønsket var at undgå at blive forvekslet med et sygehus. Mange breve og henvendelser gik således til Randers Kloster, selvom de var bestemt for Randers Centralsygehus.
Flere andre borgerlige klostre har også skiftet navn. Vor Frue Kloster i Århus hed således oprindelig Vor Frue Hospital, og for et par år siden skiftede Hansted Hospital navn til Hansted Kloster.