清顺治年间，云游和尚世高来到天津，在西窑洼建造茅屋三间定居下来。虽然茅舍简陋，但世高和尚对周围百姓夏天施水，冬天舍茶，他的善行感动了善男信女。当时，嘉兴府武进士出身的天津守备曹斌，发起募化并自捐俸银，在世高的茅屋基础上扩建庙宇，命名大悲院，请世高和尚做住持。康熙八年(1669)大悲院重建，从此成为三进殿堂，前殿为山门，当中为大殿，再进为后殿，供奉千手观世音等佛像，另有一座藏经阁。崔旭所撰《津门百咏》，有一首咏大悲院诗：“大悲旧院几重修，朱记初碑可尚留。欲向窑洼寻故迹，芦花野水四围秋。”蒋和吟的《沽河杂咏》，也有“大悲院在北门外，河北窑洼楼一层。几度登临始眼望，开窗但见满河灯”之句。从这两首诗中可见昔年大悲院的景象。

　　李鸿章任直隶总督时，他所带领的淮军，原驻扎在天津旧城的南门外，同治十一年(1872)因闹大水，移驻大悲院，并在寺东修建了充作军事瞭望之用的“镇海楼”一座。光绪庚子(1900)后，淮军营垒已废，而镇海楼仍存，但改做了消防队的瞭望塔。

　　辛亥革命后，大悲院僧侣四散，寺院荒废，至1940年，倓虚法师到大悲院做住持，他为复兴大悲院募款，在寺东重建一座新庙宇，仍是三进殿堂，青砖灰瓦，宏伟庄严，胜过西院旧寺，人称大悲院东院，但已成为大悲院的主体。

　　大悲院因供奉过大唐高僧玄奘顶骨而享名南北。唐三藏取经归国后，于高宗麟德元年(664)圆寂，先葬在长安浐水之东，五年后重葬于樊川之北，并且建寺筑塔。黄巢起义军攻入长安后，玄奘墓塔被毁。北宋端拱元年(988)，金陵僧人可政法师在长安得到玄奘顶骨，护送到金陵，在长干寺建造墓塔，将玄奘顶骨葬于塔下。至太平天国时顶骨塔坍塌，致使玄奘顶骨蒙尘地下。抗日战争期间，日军占领南京，在中华门外建“神社”，施工时发掘出玄奘顶骨，日方拟移到日本供奉，遭到中国佛教界坚决反对，屡经交涉，日方掠走一部分，其余分为六份，分别供奉在天津、北京、南京、广州、西安和四川。1945年大悲院将天津的那份供奉在大雄宝殿内，佛教信徒虔诚参拜多日，盛极一时。十一年后，应印度政府之请，供奉在天津的那份玄奘顶骨转送到玄奘法师生前在印度请经的古那兰陀寺供奉。

　　大悲院曾经的住持倓虚法师(1875—1963)，少年时当过兵、学过医、开过药店，1917年在涞水县出家为僧，法名隆衔。上世纪30年代初，他在青岛创建湛山寺，弘一法师应邀于1937年5月到10月，在该寺讲经，天津僧俗人士闻讯，真诚敦请贤乡回津弘法，因“七七”事变爆发而未能成行。1942年弘一法师圆寂，倓虚在天津大悲院内开辟弘一法师纪念室，陈列纪念文物，津门两法师在故乡永结因缘。