黄菊的仕途始于80年代陈国栋任上海市委书记时期。1983年任上海市第一机电局副局长才一年多的黄菊,获破格提拔为市委常委,两年后更升任市委副书记。陈国栋对于黄菊犹如伯乐于千里马。
被曾庆红扒头超越
据明报报道,1986年,黄菊在仕途上遇到了一些阻碍。新任市委书记芮杏文更欣赏与黄菊同期获提拔的吴邦国,这时,时任市长的江泽民将黄菊纳入了市政府团队,让他兼任副市长;从此时开始,江泽民对黄菊也有了知遇之恩。
由于黄菊和江泽民的关系,他与跟随江泽民的曾庆红亦维持友好,但二人并无深交。曾庆红离开上海时,与黄菊一样,都是市委副书记,但黄菊出道时间较曾庆红早,后来反被曾扒头超越。
抗拒朱镕基系人马
1991年,上海市长朱镕基调往北京,其职由黄菊接任,吴邦国则出任市委书记,两人关系并不融洽。吴邦国是1994年离开上海到北京任副总理的,当时周正毅还未“崛起”为上海首富,所以后来周正毅虚报注册资本等连串案件揭露后,吴的态度比较超脱;有报道说,吴邦国曾和朱镕基交换意见,两人都认为该查周正毅。
黄菊主政上海期间,与属朱镕基系的市长徐匡迪关系不融洽。不过,徐的继任人陈良宇据说也并不是黄菊属意之人,有消息说,现任市长韩正才是黄菊看好的接班人。只是由于黄菊对上海政坛涉入太深,陈良宇案牵涉不少人都与黄菊有千丝万缕的关系。