Обретение святыни произошло чудесным образом в Казани в 1579 году. Изначально Матерь Божия являлась 9-летней девочке Матроне с повелением отыскать Ее образ на одном из пепелищ.
Девочка рассказала о повелении Божией Матери взрослым, которые не сразу, но все-таки поверили ее словам. В итоге икона была найдена. По преданию, это произошло тогда, когда на указанном Богородицей месте копать начала сама Матрона.
На месте обретения иконы был построен Богородицкий Девичий монастырь и церковь, а первый список со святыни был отправлен в Москву.
В дальнейшем Казанская икона прославилась многочисленными чудесами, в т.ч. и от своих списков. В частности, с этим образом Москву от интервентов освобождало ополчение Кузьмы Минина и Дмитрия Пожарского в 1612 году.
Также известно, что перед отбытием в действующую Русскую армию перед Казанским образом Богородицы молился генерал-фельдмаршал Михаил Кутузов в 1812 году.
В 1904 году оригинал иконы был украден злоумышленниками из Богородицкого монастыря в Казани. Точная дальнейшая судьба этого образа неизвестна.
В августе 2004 года в Москву из Ватикана был доставлен древний Казанский образ – список с утерянной иконы. В июле 2005 года он был передан патриархом Алексием II туда, где некогда пребывал оригинал, – в Крестовоздвиженский храм бывшего Богородицкого монастыря.