胡大海长身铁面，智力过人。朱元璋刚刚起兵时，胡大海就到滁阳谒见朱元璋，任命为前锋。从朱元璋渡江，与诸将攻取地盘，因功授予右翼统军元帅，宿卫帐下。从大军破宁国，协助院判邓愈戍守，于是占领徽州，平定境内。元将杨完者派十万兵前来进攻，胡大海在城下迎战，元军大败而逃。和邓愈、李文忠自昱岭关一直攻打到建德。在淳安打败元军，攻克建德。再次打败了杨完者，降服了溪洞兵三万人。晋升为枢密院判官。攻克兰溪，从取婺州，晋升为枢密院事。

攻下诸暨，守将趁夜逃跑，万户沈胜投降后又叛乱。胡大海将其击败，生擒四千余人。把诸暨改为诸全州，移兵攻打绍兴，再次打败张士诚的部队。朱元璋认为宁、越是重地，召胡大海前去镇守。张士诚的将领吕珍围攻诸全，胡大海带兵援救，吕珍堰水灌城，胡大海夺堰反灌吕珍的军营。吕珍的势力被削弱，在马上折矢发誓，请求双方撤兵，胡大海答应了。郎中王恺说：“吕珍狡猾不可信，还不如乘机攻打他。”胡大海说：“已经允诺

胡大海善于用兵，常常朗诵：“我是武人，不知书本知识，仅仅懂得三件事而已：不杀人，不掠夺妇女，不焚烧房屋。”于是他所到之处，远近都争相归附。他死后，闻者无不流涕。又喜爱文人，所到之处都访求豪杰。刘基、宋濂、叶琛、章溢等人的聘用，实际上都是大海推荐的。

《明史》：“明祖之兴，自决策渡江，始力争于东南数千里之内，摧友谅，灭士诚，然后北定中原，南图闽、粤，则廖永安胡大海以下诸人，厥功岂细哉！计不旋踵，效命疆场，虽勋业未竟，然褒崇庙祀，竹帛烂然。以视功成命爵、终罹党籍者，其犹幸也夫。”

长子：胡三舍，因违反法令被朱元璋处死；

次子：胡关住，与胡大海一同被叛将所杀；

胡德济，字世美，随胡大海投军起义，转战南北，官至浙江行省左丞，镇杭州及陕西。

胡强，武艺高强，号称野人熊。

元末，河南一带流浪来一个乞丐，其人五大三粗，相貌丑陋，带片披襟，蓬头垢面，体壮如牛却游手好闲，为乡亲们所不齿，人们避之如恶煞厉鬼，即使有残羹剩饭也不施舍。他一出现，家家便关门闭户。一日，他猝然闯而进一土财主家，伸出毛茸茸的黑手讨要，老妪为羞辱他，将一张大油饼为孙儿揩腚后，扔狗吞食，并喝狗将其咬出门外。这乞丐就是胡大海。胡深感中原人心太坏，遂暗暗立誓，有朝一日发迹后，定来此雪恨复仇。后来，胡大海弃讨投伍至朱元璋麾下。胡膂力过人，嗜杀成性。因战功卓著，一介乞丐白日升天，成了朱明王朝的开国元勋。朱元璋于南京君临天下，大赏功臣。胡大海拒金银财宝田宅奴仆而不受，当朝奏明复仇事。朱洪武知胡乃杀人魔王，踌躇再三，只恩准胡“杀一箭之地”。胡率兵至河南境内，恰有一雁当空飞来，胡心中暗喜，弯弓发箭，箭着雁尾，雁带箭南飞，飞过河南，又掉头飞向山东，胡统兵随雁杀去，直杀得豫鲁两省“白骨露于野，千里无鸡鸣”。

岷县民间18位湫神中排第7位，总督三边胡大海，俗称黑池爷，本庙在西寨镇田家堡村。

胡大海的民族身份是个有争议的话题，回族民间传说他是波斯穆斯林移民之后，回族学者把他也编入了回族人物志，但没有什么证据，不足以立论，民间传说不足信，不具有史料价值。考证胡大海的民族属性的难点在于，明史明确记载胡大海是绝后的，自然也没有家谱传世，只能根据历史记载的他的行为来推测他的民族属性。

胡大海长子因喝酒被朱元璋处死，但伊斯兰教规严格禁酒，穆斯林是绝对不喝酒的，如果胡大海的儿子生长在穆斯林家庭，不可能酿酒，以此推知胡大海不可能是穆斯林。

1998年电视剧《乞丐皇帝传奇》，倪增兆饰演胡大海。

2006年电视剧《传奇皇帝朱元璋》，赵乐饰胡大海。