丹波国篠山藩青山家の分家。青山家2代・忠俊の弟である幸成が興している。幸成は2代将軍・秀忠に仕えて1500石を与えられ、忠俊が家督を相続した際にさらに1500石を分与されて3千石の石高を得ている。1633年(寛永10年)には遠江国掛川藩2万6千石に封じられ、その2年後には摂津国尼崎藩5万石へ転封された。そこで新田4千石を新たに開墾している。
幸成は晩年、嫡男以外の3人の息子に3千石、2千石、1千石をそれぞれ分与し、尼崎藩青山家の基盤を固めた。これが青山三分家の成立である。青山家の石高は4万8千石となり、4代・幸秀のときに信濃国飯山藩に転封された。丹後国宮津藩を経て続く5代・幸道のときに美濃国郡上藩に移り、そこに落ち着く。
幕末の争いでは、国許は尊王派にまとまり、朝廷に恭順した。しかし、江戸の藩邸では佐幕派の一部が強硬論を主張し、江戸城無血開城に抵抗して結成された凌霜隊が脱走、会津若松城に駆け込んで新政府軍と戦うという事態を招いてしまう。結果、会津勢は新政府軍に敗れ、凌霜隊も戦火の中に散っていった。最期の藩主となった11代・幸宜は版籍奉還を経て郡上藩知事に任命され、後に子爵位を授けられている。