1995年6月25日，中国人民银行下文批准设立中金公司，批准王岐山任中金公司第一任董事长，林重庚任第一任总裁，杨杉、汤世生和方风雷任副总裁。
1995年8月11日，第一次中金公司董事会在光大大厦23层召开。王岐山、约翰·麦克、蒋乐民、郑国枰出席了会议，韦仕华（摩根技术转让管理委员会主席）、毛裕民（中国建设银行观察员）、林重庚、杨杉、汤世生、方风雷参加了会议。
1995年10月，林重庚辞去总裁职务，杨杉成为中金公司第二任总裁。
1997.年9月，中国国际金融（香港）有限公司在香港商业登记署注册。
1997年10月，中国电信（香港）在纽约和香港成功上市，中金公司在这一里程碑性的项目中担任联席全球协调人、簿记管理人、主承销商以及保荐人。
1997年10月，杨杉辞去中金公司总裁职务，奥斯汀·柯楠被任命为中金公司第三任总裁。
1998年4月，新任中国建设银行行长周小川接替王岐山为中金公司第二任董事长。
2000年2月，周小川调任中国证券监督管理委员会主席，新任中国建设银行行长王雪冰出任中金公司第三任董事长。
2000年6月，中金公司董事会在北京召开。董事会批准了第四任总裁依琳若诗的辞呈，并决定中金公司由以投资银行部负责人毕明建为领导的管理委员会管理，成员包括：毕明建、黄晓衡、许小年、吴尚志、朱云来、霍康。
2002年1月，张恩照任中国国际金融有限公司第四任董事长。
2005年4月，中央汇金投资有限公司副董事长汪建熙担任中金公司董事长。
