当寺は、如信上人によって開基されました。上人は、親鸞聖人の子息である慈信房善鸞大徳の長男として誕生しました。つまり如信上人から見て、親鸞聖人は祖父にあたります。幼少のころから祖父親鸞聖人のもとで修学し、浄土真宗の御教えを継承しました。浄土真宗の各派は、如信上人を第二世と位置づけています。

如信上人が親鸞聖人のもとを離れ東国に旅立たれたのは、弘長二年（1262）初冬(10月)中旬であると当寺には伝わっています。聖人が御遷化になられる1ヶ月半前のことです。祖父は旅立つ孫へ聖人御自作の御影像（御木像）を付属され、

「自身の東国での思い出・善鸞の廃嫡は浄土真宗の教えにない加持祈祷を行ったこと・如信には自分と同一の信心に生きてほしいとの願い・東国門弟の教化の委託」

の御遺言を伝えます。

上人が奥州白河大網（現、西白河郡泉崎村大字北平山字古寺）を終の棲家とするのは、30歳代半ばの文永六年（1269）のことです。庵は、お弟子乗善房が所有していたものです。この庵の前身は、源義経の忠臣であった佐藤継信・忠信兄弟の母が二人の死をこの地で知り、菩提を弔うために建てた阿弥陀堂（大網堂とも、大海堂とも）でした。

如信上人は、乗善房の庵（現茨城県大子町上金沢）で御遷化になります。毎年、上人は親鸞聖人ご往生の日（11月28日）には京都の御廟所を参拝していました。この如信上人のお勤めが、のちに報恩講という形式に整っていったと伝えられています。

正安二年（1300）、上人は京都からの帰路、いつものように上金沢の地に立ち寄りましたが、急の病に倒れ二、三日寝込んで正月四日に息絶えました。本願寺第三世覚如上人はこれを知り、三回忌までの法要を京都でお勤めになり、正和元年（1312）、上人終焉の地である上金沢に至って仏事を営み、さらに大網の本坊に詣でて十三回忌の法要をお勤めされます。ご遺骸は、正和四年（1315）、上金沢の地で火葬にし、本坊（大網奥之坊）へ改葬しました。翌年、如信上人廟所（大網本廟）において十七回忌が営まれました。

寺基は、寛永四年（1627）の頃、十五世信円（号如祐、白河風土記は法祐と記載）の代に領主丹羽長重の命によって、大網本廟を北平山の地に残して現在地へ移転しました。移転当初は、西念寺という寺院名でしたが、ほどなくして常瑞寺を名乗ります。『白河風土記』は「此弥陀の像火焔の中より免れ出て霊場不思議を顕せし云々」と、寺院名が変わった訳を記します。中庭の句碑には、庭造営の年号が「正保四丁」（1647）と刻まれており、信円は句碑が建った四年後、86歳で示寂しました。

その後当寺は、何度かの火災にあいました。記録にあるだけでも安永年間の大火、明治十五年の大火に被災しました。また、近くは昭和十一年に全焼しています。これらの火災により、親鸞聖人の御遺骨を彩色した御自作の御影像（御木像）、如信上人の絵像、親鸞聖人・善鸞大徳・如信上人筆のお名号などを残し、多くの宝物・記録類が焼散失しました。

現在の本堂は、昭和二十九年に建立しました。お内陣は平成四年に修復し、平成六年には大網本廟を改修しました。

宗祖灰骨の御影と如信上人御本廟をお守りして七百有余年、常に上人の御心を帯し、真宗法血脈を次第相承してきたのが大網奥之坊常瑞寺です。