山陕甘会馆位于开封市龙亭区徐府街105号，坐落在明代开国元勋中山王徐达的府第旧址上，始建于清朝乾隆年间,距今已有200多年的历史。由居住在开封的山西、陕西、甘肃三省的富商巨贾集资兴建，是清代山西、陕西、甘肃三省旅汴客商经商、贸易、联络同乡感情的场所。

山陕甘会馆建造考究，装饰华丽，其中砖雕、石雕、木雕堪称我国古建筑三绝，是河南省明清时期建筑艺术的代表作。照壁、戏楼、牌楼、大殿等主体建筑位于中轴线上，附属建筑位于东西两侧，建筑之间以檐廊串联，整座建筑群整齐精致。会馆坐北向南，照壁临街而建，高约二丈，覆以庑殿顶、绿琉璃瓦，显得方正庄重。照壁两侧有飞檐高耸的东西掖门。进入会馆，迎面是戏楼。戏楼又称歌楼，旧时每逢节日、祭祀、还愿、祝寿等活动，这里均有精彩演出。会馆内还有垂花门、钟鼓楼、东西配殿、东西跨院等建筑。

1937年，日本发动全面侵华战争，在中国军民的顽强抗击下，其速战速决的企图被粉碎。日寇将在华从事多年特务活动的吉川贞佐升任为华北五省特务机关长，企图通过强化情报特务活动，全面配合日军巩固后方的“肃正作战”。1939年下半年，日军华北五省特务机关长吉川贞佐少将进驻开封山陕甘会馆，专事派遣华北五省的日伪特工到处刺探情报、网罗汉奸，搜集华北各地的军事、政治、经济、文化等方面情报，大肆搜捕、屠杀抗日志士，破坏抗日组织。中共河南地方党组织为免遭破坏，决定让国民党军统豫站行动队组长牛子龙（中共地下组织党员）组织力量除掉他。牛子龙派共产党员吴凤翔假装投降，打入日军驻汴特务机关。1940年5月17日傍晚时分，吴凤翔和助手王宝义进入山陕甘会馆日特务机关总部，开枪击毙吉川贞佐、日军驻开封部队参谋长山本大佐、日军驻北平部队赴开封视察团团长瑞田中佐、日军驻开封宪兵队队长藤井治等人。此举不仅重创侵略开封的日军，而且坚定了中国军民抵御外侮的信心。

1986年，政府拨款对山陕甘会馆的关帝庙建筑进行全面整修，恢复了清代的原地坪，修复后的山陕甘会馆关帝庙部分，由照壁、戏楼、钟鼓楼、牌楼、正殿和东西配殿等组成。整个建筑布满了砖雕、石雕、木雕，将佛教故事、传奇人物雕刻得惟妙惟肖、生动逼真，具有很高的艺术价值。2001年6月被国务院公布为第五批全国重点文物保护单位。