牛弘尚在襁褓之中时，有相士见了他，对他父亲说：“这个小孩日后当会富贵，好好养他。”他长大后，长满胡须，容貌魁伟，生性宽容，好学博闻。

在北周时，开始任中外府记室、内史上士。不久转任纳言上士，专管文牍，很有美名。迁为威烈将军、员外散骑侍郎，修《起居注》。后来袭封临泾公。

宣政元年（578年），转任内史下大夫，升任使持节、大将军、仪同三司。

隋朝开皇初年，升任散骑常侍、秘书监。牛弘因文献典籍散失，上表朝廷，请求开民间献书之路。隋文帝采纳了他的意见，于是下诏，献书一卷，赏缣一匹，一、二年间，文献稍稍齐备。牛弘晋爵为奇章郡公，食邑一千五百户。

开皇三年（583年），授礼部尚书，奉命修撰《五礼》，写成百卷，通行于当代。牛弘请求按古代规矩修建明堂。隋文帝因国家刚刚草创，无暇制作，最后没接受他的建议。

开皇六年（586年），牛弘任太常卿。　　开皇九年（589年），隋文帝下诏改定雅乐，又作乐府歌词，撰定圆丘五帝凯乐，

牛弘荣宠当世，但车子、服饰都很一般，对上尽礼，对下尽仁，讷于言而敏于行。隋文帝曾让他宣布圣旨，牛弘到阶下，不能说话，退回拜见皇上，道歉说：“我都忘了。”隋文帝说：“传几句话，这只是点小才，你都不行，看来你不是当宰相的料子。”更加称赞他的质朴正直。大业年间，隋炀帝对他更加亲重。　　牛弘生性宽厚，笃志于学，虽然公务繁杂，但是手不释卷。隋代旧臣，能始终得到信任的，只有牛弘一人而已。　　牛弘有个弟弟叫牛弼，好喝酒，一喝就醉，曾因醉酒，射死了牛弘牛车上的牛。牛弘回家，他妻子对他说：“小叔射死了牛。”牛弘听了，无所怪闻，只说：“作菜吃。”牛弘坐定后，他妻子又说：“小叔忽然射死了牛，真是怪事！”牛弘说：“我已知道了。”他脸色不变，仍旧读书。他就是这样待人宽和。

牛弘是开创藏书史研究第一人，对隋代以前书籍亡佚进行了历史研究和总结，提出了著名的藏书“五厄论”，对后世的藏书文化的研究产生深远影响。又着手整理皇室藏书，平陈以后，经籍渐备，然而检其所藏，多纸墨不精，书写亦拙劣，于是总集编次，存古本。召天下工书之士，如京兆韦霈、南洋杜頵等人，于秘书省内补续残缺，为正副三本，藏于宫中，其余存放秘书内三阁，凡3万余卷。与学者王劭等编撰有《开皇四年四部目录》、《开皇八年四部目录》、《开皇二十年四部目录》，对隋一代图书整理事业有贡献。擅长文学，通律令，授命主撰《大业律》18篇500条。

《隋书》：牛弘笃好坟籍，学优而仕，有淡雅之风，怀旷远之度，采百王之损益，成一代之典章，汉之叔孙，不能尚也。绸缪省闼，三十余年，夷险不渝，始终无际。虽开物成务，非其所长，然澄之不清，混之不浊，可谓大雅君子矣。子实不才，崇基不构，干纪犯义，以坠家风，惜哉！

叶适：牛弘浅而不俗，柔而不弱，治世之中品耳。若言“书五厄”，则前葢未有能为此论也。然史谓大业之世，委遇弥隆，隋室旧臣，始终信任，悔吝不及，唯弘一人。而其死在大业三年，使其少复延永，未知与苏威出处如何？士固有幸不幸，未可随事为定论也。

徐钧：射牛可怒理都然，三问何如一忍贤。底事妇言坚不听，为忧伤我弟兄天。

祖父：尞炽，郡里任中正。

父：尞允，在北魏任侍中、工部尚书、临泾公，魏帝赐姓牛。

牛弘共有子三人：长子牛方大生于南北朝时期576年，官至内史舍人，年仅44岁便英年早逝；次子牛方裕，在牛弘死后追随宇文化及弑杀隋炀帝，投唐后在唐太宗贞观二年（628年）七月，李世民下诏以大逆弑君之罪，将莱州刺史牛方裕等人尽行革职除名，流放边疆；三子牛方智，方智有七世孙中唐名相牛僧孺。