１９４５年２月生，吉林公主嶺人。１９７１年加入中國共產黨。１９６８年四平師范專科學校畢業。

    歷任公主嶺市農業局副局長，中共梨樹縣委副書記，吉林省副省長，中共白城地委副書記、書記，白城地區行署專員，中共吉林省委組織部副部長、部長，中共吉林省委常委。１９９２年任第五屆中共吉林省委副書記。１９９３年４月任第六屆中共吉林省委副書記。１９９６年８月任中共浙江省委副書記。後任全國供銷合作總社黨組書記。２００２年１０月任安徽省人民政府副省長、代省長。２００３年１月在安徽省第十屆人民代表大會第一次會議上當選安徽省省長（２００７年１２月辭去安徽省省長職務）。２００６年１０月，在中共安徽省第八屆委員會第一次全體會議上當選中共安徽省委副書記。 ２００７年１１月任中共安徽省委書記 。２００８年１月３１日當選安徽省人大常委會主任 。

    是中共十五屆中央候補委員，十六屆、十七屆中央委員。

     王金山做客新華網談在解放思想中加速推進安徽崛起  訪談：安徽省委書記王金山縱論泛長三角發展與分工合作