洪武四年，吴伯宗廷试第一。时开科之始，帝亲制策问。得伯宗甚喜，赐冠带袍笏，授礼部员外郎，与修《大明日历》。胡惟庸用事，欲人附己，伯宗不为屈。惟庸衔之，坐事谪居凤阳。上书论时政，因言惟庸专恣不法，不宜独任，久之必为国患。辞甚恺切。帝得奏，召还，赐衣钞。奉使安南，称旨。除国子助教，命进讲东宫。首陈正心诚意之说。改翰林典籍。帝制十题命赋，援笔立就，词旨雅洁。赐织金锦衣。除太常司丞，辞。改国子司业，又辞。忤旨，贬金县教谕。未至，诏还为翰林检讨。十五年进武英殿大学士。明年冬，坐弟仲实为三河知县荐举不实，词连伯宗，降检讨。伯宗为人温厚，然内刚，不苟媕阿，故屡踬。逾年，卒于官。伯宗成进士，考试官则宋濂、鲍恂也。

吴伯宗从小聪敏，10岁即通举子学业，洪武三年（1370）乡试中举，名列第一，为解元；洪武四年会试列二十四；廷试因原拟第一的郭翀貌丑，擢为第一，为状元。他是明朝开科状元。廷试时，洪武帝亲制策问，点吴伯宗为状元，赐给冠带袍笏，授礼部员外郎。参与会修《大明日历》及后妃功臣传，书成，又赐衣袜。吴伯宗为人温厚，但内刚外柔，不附权势，不屈奸邪。时值左丞相胡惟庸当权，结党营私，玩弄权术。不肯随附，胡惟庸怀恨在心，借事将其谪居凤阳。没有畏缩，仍然上书直论时政，指斥胡惟庸专横跋扈，不守朝廷法纪，不宜委以重任，否则，将危害国家。疏中列举事实，分析合情合理。太祖得奏，召还，赐衣钞。出使安南（今越南），不辱使命，得四驯象归，授国子助教，进讲东宫，改任翰林典籍。太祖出10题，命他即赋，他才思敏捷，挥笔立就，词意清新，气势磅礴，甚得太祖赞赏，赐予织金锦衣。封为太常寺丞，他辞谢不就，改任国子监司业，又不去，因而被贬为金县

洪武十五年（1382），晋为武英殿大学士。九月，奉命与翰林学士李翀、回回大师马沙亦黑、马哈麻等人翻译《回回历》、《经纬度》、《天文》等书。次年二月，译完《天文》书，吴伯宗写序曰：“西域天文书与中国相传殊途同归。……刻而列之,与中国圣贤之书并传并用,岂惟有补于当今,抑亦有功于万世”。从此，《回回历》与我国《大统历》相参为用。是年（1383）冬，因弟吴仲实为三河（今河北省三河市）知县时，荐举不实受到株连，降为检讨。十七年夏，因洪武帝偶有询问，吴伯宗以非所职掌，难以为答而触怒洪武帝，被谪居云南，暴卒于途。东宫太子悼其不幸，令其家护丧归葬。吴伯宗无子，殁时囊空如洗，赖妻龚氏勉力维持，才得以返里。吴伯宗著有《荣进集》4卷行于世。