Во время нашествия на Россию хана Батыя город Курск был настолько разорён, что зарос лесом, в котором часто охотились жители соседнего городка Рыльска. Однажды, 8 сентября 1295 года, один охотник увидел у корня дерева обращённую ликом к земле икону. Он поднял образ, и оказалось, что это была икона Пресвятой Богородицы «Знамение». В ту же минуту на том месте, где она лежала, из земли забил источник родниковой воды.
Когда князю Рыльскому Василию Шемяке сообщили о явлении иконы Божьей Матери, он приказал принести её в город. Народ встретил икону БогоМатери с торжеством, но сам князь не принял участия в этой встрече, за что и был немедленно наказан слепотою. Когда же после покаяния он получил прозрение, то в благодарность за исцеление воздвиг храм в честь Рождества Пресвятой Богородицы, куда после окончания строительства и была поставлена чудотворная икона. Тогда же был установлен праздник в день её явления. Икону Богородицы от места явления при корне дерева стали называть Коренною.
Но икона Божией Матери пробыла в храме недолго: чудесным образом она исчезла и была обнаружена на том месте, где была обретена охотником. Жители Рыльска неоднократно брали её и относили в город, но икона Божией Матери каждый раз исчезала из храма, и её вновь находили на месте явления при корне дерева. Тогда все поняли, что Божия Матерь благоволит к месту явления Её образа, и на этом месте была построена часовня.
В 1383 году напавшие на Курскую область татары взяли в плен служившего при часовне священника, зажгли часовню, икону рассекли пополам, одну половину бросили в огонь, а другую – в сторону. Священник был отведён в Крым, где провёл в плену несколько лет, выполняя тяжёлые работы. Однажды московские послы, проезжая мимо татарского стана, услышали русские песнопения ко Пресвятой Богородице. Узнав о пленном священнике, послы выкупили его из рабства, и он вернулся на место под Курском, где когда-то стояла часовня с чудотворной иконой Божьей Матери.
На месте сгоревшей часовни священник нашёл одну половину, а другую после поисков обнаружил в стороне в траве. С верою сложил он две половины вместе, и они чудесно срослись. С того времени икона Богородицы оставалась на своём месте во вновь отстроенной часовне, и все время от неё не прекращались чудотворения. Впоследствии на месте часовни был устроен монастырь – Коренная пустынь.
Известно, что преподобный Серафим Саровский в детстве излечился перед этим образом.
В 1898 году злоумышленники пытались уничтожить русскую святыню. Взрыв от подложенной бомбы был настолько силён, что разрушился храм, но икона Божией Матери осталась невредимой. Ко всеобщему изумлению, осталось целым даже стекло на киоте. В память о чудесном сохранении иконы при взрыве был установлен ещё один день празднования Курской-Коренной иконе Божией Матери «Знамение» – 6 сентября (21 сентября по новому стилю).
После революционного лихолетья чудотворный образ оказался за пределами России. Ныне является одной из святынь Русской Православной Церкви Заграницей.