Sfântul Ioan s-a născut în anul 876 în satul Skrino în ținutul Sredeț (astăzi Sofia). După ce și-a pierdut părinții, băiatul a devenit văcar pentru a se ține departe de lume. Odată stăpânul l-a bătut pentru că îi pierduse o vacă cu vițelul ei. Băiatul a plâns îndelung și s-a rugat, că Dumnezeu să-l ajute.
Când a găsit vaca și cu vițelul și a vrut să se întoarcă acasă cu ele, apa curgea mare și cu putere în râul Struma, pe care trebuia să-l treacă. Tânărul văcar s-a rugat, și-a pus cămașa lui zdrențuită pe apă, făcu deasupra ei semnul crucii, lua vițelul în brațe și merse cu el, precum ar fi mers pe uscat, până pe celălalt mal al râului unde se afla vacă. Stăpânul, ascuns în pădure, se înspăimântă când văzu această minune. Recompensa cu generozitate pe tânăr, apoi îl alungă de la casa lui. Împărțind de pomană lucrurile sale, băiatul își părăsi satul.
Nu se știe când, nici unde, sfântul a fost tuns monah. La început și-a continuat asceza pe un deal înalt și arid, mâncând doar plante sălbatice. Adăpostul îi era un tufăriș. După puțină vreme tâlharii au venit peste el noaptea, l-au bătut și l-au scos afară de acolo. Şi-a găsit apoi o peșteră adâncă și s-a instalat în ea. Peste puțină vreme, nepotul său, Sfântul Luca, s-a instalat și el acolo. Locul era lipsit de lume, astfel încât Sfântul Ioan a crezut la început apariția lui Luca drept o înșelăciune diavolească, dar aflând că tânărul își căuta mântuirea sufletului său, l-a acceptat cu dragoste. Nu pentru multă vreme însă au viețuit ei împreună.
Fratele sfântului Ioan i-a găsit pe asceți și cu forța și-a luat înapoi fiul. În drum spre casă tânărul a murit din cauza unei mușcături de șarpe. Fratele s-a căit și a cerut iertare călugărului. Pribeagul mergea apoi adesea la mormântul tânărului cel drept ; acolo era locul său de odihnă preferat. Sfântul Ioan a petrecut doisprezece ani în peștera pustie, apoi s-a dus în sălbăticia Rilei și s-a instalat în scorbura unui copac. Postea și se ruga mult, plângea neîncetat și mânca doar iarbă. Văzând o asemenea nevoință, Dumnezeu a făcut să crească fasole, din care sfântul a mâncat multă vreme. Fasolea și faptele sale bune l-au făcut cunoscut oamenilor.
Odată o turmă de oi speriate alergă de-a lungul potecilor abrupte și prăpăstioase, și nu s-a oprit până la locul în care viețuia călugărul. Ciobanii, urmărindu-și turma, l-au descoperit cu uimire pe sihastru, care i-a întâmpinat prietenește : “Voi veniți aici înfometați. Luați niște fasole de la mine și mâncați”. Toți mâncară și s-au îndestulat. Unul dintre ei a luat mai multă fasole ca să aibă provizii. În drum spre casă le-a oferit tovarășilor săi, dar nu era nici o boabă în păstăile șterpelite.
Ciobanii se întoarseră cu căință iar bătrânul stătea drept, spunându-le zâmbind : “Vedeți, copiilor, aceste fructe sunt lăsate de la Dumnezeu că hrană în sălbăticie”. De-atunci ei începură să aducă la călugăr pe bolnavi și pe cei tulburați de duhuri necurate, pe care el îi vindecă prin rugăciune. Ca să nu cadă pradă faimei printre oameni, călugărul părăsi scorbură lui dragă și se instală pe un pisc înalt și stâncos dificil de acces, unde a sălășluit timp de șapte ani sub cerul liber. Vestea despre marele ascet a ajuns până la regele bulgar Petru (927-969), care voia să îl întâlnească. Sfântul Ioan îi scrise o scrisoare, refuzând o astfel de întâlnire lipsită de smerenie.
Mai târziu Sfântul Ioan accepta sub călăuzirea lui călugări, care construiră o mănăstire cu o biserică în peștera în care Sfântul Ioan trăise mai înainte. Cu chibzuință își îndruma turma și muri la 18 august 946, la vârsta de 70 de ani. Cu cinci ani înainte de a-și da sfârșitul a scris cu mâna sa: “Un Testament pentru Discipoli”, una din cele mai rafinate creații ale literaturi bulgăre vechi. Viața sfântă a ascetului și extraordinarele binecuvântări de la Dumnezeu prin rugăciunile sale fură o frumoasă predică a credinței creștine pe pământul nou creștinat al Bulgariei.
În vremurile grele de luptă ale Bulgariei cu Bizanţul, sub regele bulgar din vest Samuel (976-1014), Sfântul Ioan se arata ucenicilor săi, ordonându-le să îi transfere moaștele la Sredeț (Sofia), unde Patriarhul bulgar Damian (927-972) se ascundea. Se bănuiește că transferul moaștelor a avut loc în anul 980. Puțin mai târziu, mâna dreaptă a Sfântului Ioan de la Rila a fost dusă în Rusia, probabil în orașul Rila, unde o biserică a fost construită în numele Sfântului Ioan de la Rila, cu o capelă dedicată martirilor Flor și Lavru din Iliria, în ziua prăznuirii lor, 18 august, în care el a murit. Numele Sfântului Ioan a fost cunoscut și iubit de poporul rus încă din vechime. Date despre moartea sfântului s-au păstrat mai ales în surse rusești, precum Mineiul pentru luna august în secolul XII și în Cronica Mazurinsk.
În anul 1183, regele maghiar Bela II (1174-1196), în timpul unei campanii împotriva grecilor, a pus stăpânire pe racla cu moaştele sfântului Ioan, împreună cu alte lucruri de pradă, şi le-a dus în oraşul Esztergom. În anul 1187, după ce a împodobit racla, a trimis înapoi sfintele moaște cu mari onoruri. La 19 octombrie 1238 moaștele Sfântului Ioan au fost transferate în mod solemn în noua capitală, Târnovo, și depuse într-o biserică consacrată sfântului.
La 1 iulie 1469 sfintele moaște ale Sfântului Ioan de la Rila au revenit în mănăstirea sa de la Rila, unde se odihnesc și astăzi, aducând ajutor plin de har ceresc tuturor credincioșilor.