最上氏の祖・斯波兼頼(しばかねより)が南北朝時代の延文 2年(1357年)に創建、戦国時代末期に最上義光(もがみ よしあき)が拡張整備、その後の鳥居忠政の大幅な改修により城の形が定まった。江戸時代には山形藩の政庁が置かれた。三重の堀と土塁で囲まれた輪郭式平城で、東北では最大規模。本丸に天守はなく、防御の中心は二の丸に置かれていた。
城郭構造は輪郭式平城。城跡は国の史跡に指定されている。
本丸は御殿のみで天守はなかった。二ノ丸には江戸時代前期まで三階櫓(さんかいやぐらが)あった。
主な遺構は、本丸、二の丸、石垣、堀、土塁など。
復元整備された建造物は、平成 3年(1991年)二の丸東大手門、平成17年(2005年)本丸一文字門大手橋、平成26年(2014年)本丸一文字門高麗門及び枡形土塀が復元整備された。
別名は霞城(かじょう)、霞ヶ城(かすみがじょう)、吉字城(きちじじょう)。
明治時代初期、廃城となった。山形市が購入し、陸軍の駐屯地を誘致、城内の櫓や御殿は破却され、本丸は埋め立てられた。三の丸の堀も埋め立てられ耕作地として利用された。
戦後、二の丸の内側は霞城公園(かじょうこうえん)として整備されたが、二の丸の外側は市街地化が進み、三の丸の濠も埋め立てられた。
平成18年(2006年)、日本100名城に選定された。日本100名城スタンプは最上義光歴史館、山形市郷土館受付、二の丸東大手門櫓内に置かれている。
2026年8月5日訪問
全国五位の広さを誇った山形城、本丸と二の丸が残されていましたが、二の丸ぎりぎりまで住宅が並びJR線が走っている現状はちょっと残念でした。軍隊を誘致したことは致し方なかったとは思いますが・・・。