吴邦国于1966年在清华大学无线电电子学系毕业时，赶上了文化大革命，当时的大学毕业生要"面向基层"、"面向工矿"，他就到上海电子管三厂当工人。后来，他先后担任过技术员，技术科科长、革委会副主任、工厂党委副书记、厂长、公司副经理、上海市仪表电讯工业局党委副书记、上海市委副书记和书记。吴邦国从1992年开始就一直担任政治局委员，从1995年开始就一直是国务院副总理，从1998年开始就一直是中共中央大型企业工委书记。
文革结束后80年代初期，原中共华东局一系的陈国栋、胡立教、汪道涵到上海主政，在落实邓小平陈云培养"第三梯队"的政策时，吴邦国有幸成为被这些伯乐相中的"千里马"。后又经历了芮杏文、江泽民空降上海，上海的"第三梯队"分成太子党和平民党两拨人马，前者以曾庆红和潘维明为代表（这两位再加上赵启正，被当时海外媒体称为上海崛起的三颗政治新星），后者以吴邦国、黄菊为代表。两"党"之间由竞争而产生的隔阂也相当深，中共官场的风气是唯第一把手是从，当时的市委书记芮杏文思想比较开明，工作作风比较踏实，而担任市长的江泽民政治色彩并不明朗，行事作风的浮夸却已经是有相当的表演了，而且还常和第一把手抬杠，把太子党和平民党夹在中间左右为难。
"芮江之争"在十三大一中全会决定领导班子的时候，还埋下了一个影响后来政局巨变的契机：按照当时的惯例和先前的安排，芮杏文以上海市委书记的身份进政治局，而江泽民是进书记处的人选；但是当时的总书记赵紫阳急于加强中央书记处的工作，便挑选芮杏文到中央工作，担任分管意识形态和文教方面工作的中央书记处书记，这样江泽民就顶了上海市委书记的空缺，顺势拣了一个政治局委员。谁也没有想到，就是这么个阴差阳错，成了江泽民进中南海的敲门砖。这是题外话按下不表。
就说 "芮江之争"后来被"江朱（熔基）之争"取代，上海出现了一山难容两虎的格局，江泽民主持的市委和朱镕基主持的市政府关系之僵，几乎到了水火不容的程度。这里要插一句，现在正热销的《第四代》，在一个与吴邦国有关的细节上显然有杜撰之嫌，原上海《世界经济导报》记者张伟国最近在一篇文章中指出，该书写吴邦国和江泽民在上海的关系，称江泽民任市长期间在市政府办公，只是后来任市委书记到市委大院办公后，才与吴邦国建立了一段"两年半"的同事关系……事实上，上海市委和市政府的主要负责人和上海市委的常委们，一直都是在康平路的市委大院办公，外滩的市府大楼除了一块招牌仅仅是一些事务机关，只是到朱镕基担任上海市长的时候，趁着当时"党政分开"的改革势头，把自己的办公室搬到外滩的市政府大楼，此举还一直是外界关于朱镕基与江泽民关系不和的重要依据……。此外江泽民一直与曾庆红等太子党过从甚密，对平民党远不是那么当一回事，对此吴邦国是心知肚明的。
在"芮江之争"、"江朱之争"中，吴邦国已经是上海市委副书记，是分管组织人事和党务工作的第三把手，相对于理想主义的政制新星潘维明紧跟赵紫阳芮杏文，一直到六四全军尽墨；曾庆红、黄菊见风使舵更上层楼，吴邦国竟然在两者之间保持平衡，并获得了相当的成功。不知这到底是他的所谓"厚道"秉性，还是他官运亨通的缘故，抑或两者兼而有之。朱镕基富有个性的行事风格曾在上海引起相当大的震荡，在老百姓称颂不已的同时，中层以上的官员却抱怨不迭，甚至在黄菊接任市长的时候都不无所指的向身边上的人表示，"朱镕基书记给我的是一支没有墨水的笔"。
朱镕基主持上海工作期间，吴邦国和黄菊是他名义上的左右手，这个时期黄菊是眼睛已经盯上了中南海的江泽民，已然有"身在上海心在北京"之势；倒是吴邦国在配合朱镕基工作方面算得上勤勤恳恳踏踏实实，客观上也帮助朱镕基擦了不少"屁股"，这种关系一直维持到他到北京出任政治局委员、中央书记处书记、国务院副总理、中央企业工委书记，仍甘于为朱镕基继续当助手。尽管他信誓旦旦地说，对该活的大中型企业就让它活得痛快，对资不抵债、实在难以为继的企业，则置之死地而后生。他说，有外国人批评我们像慈父一般对待企业，这不行，不能当慈父。但他倡导的国营企业改革"抓大放小"方案还是无疾而终，国营企业下岗工人也正在日益成为突出的社会问题，如果以政治责任来衡量，他到北京任职后似乎是"过大于功"，退一万步套用中共的术语来讲，至少没有拿出亮丽的成绩单。
在现任九个政治局常委中，吴邦国可能是最其貌不扬的。在他主持上海工作的侍候，坊间有一种说法："吴邦国的相貌是农村的公社书记，黄菊的才干是企业的车间主任"。现在中共在香港的喉舌说，（上海）人们把吴邦国称作"平民书记"，也是一个间接的佐证。然而，吴邦国有上海人的那种精明，又不像黄菊把这种"精明"写在脸上。吴邦国善于交友。他说，交朋友是一种乐趣，他尤其喜欢同金融界、实业界和新闻界人士交朋友。这些溢美之词显然不得要领。一位上海的的评论家指出，吴邦国的政绩主要形成在上海工作期间，而他的政绩并不是因为他象朱镕基那般的精明强干，恰恰相反，是他的无能或者也可以称之为"无为之治"。上海人的素质和基础条件都非常好，这些年之所以发展的快，除了中央政策倾斜，更重要的就是得益于自吴邦国黄菊以来上海当权者的相对弱势，使得民间发展有了一定的空间。
不管是无能还是无为，吴邦国还有"阿青嫂"那种"眼观六路耳听八方"的本事是值得一提的，这一点他和现任常委中的第三把手温家宝颇有相似之处。比较典型的就是1992年邓小平南巡时，一路放话警告江泽民和李鹏"谁不改革就下台"。朱镕基授意上海组织笔杆子，以"皇甫平"的笔名在解放日报发表系列新春评论，引起轩然大波，李鹏、王忍之直接派人到上海调查，当时正在把反和平演变作为中心工作的江泽民急得象热锅上的蚂蚁，吴邦国一方面全力与之周旋，一方面也对身边人表白：自己是没有大腿可以抱的！后来，尽管邓小平力挽狂澜于既倒的南巡获得了成功，吴邦国并没有居功自傲，或他主政的上海当局似乎也从来没有为此大肆庆贺过，算是给了江泽民等强硬派很大的面子，……或许正是这种政治上的平衡技巧，奠定了他成为今日中共新二把手的基础？