何曾字颖考，陈国陽夏人。父亲何夔，是魏朝太仆、陽武亭侯。何曾少年袭爵位，好学博闻，与同郡袁侃齐名。魏明帝做平原侯时，何曾为平原侯文学。魏明帝即位，多次升迁为散骑侍郎、汲郡典农中郎将、给事黄门侍郎。曾向皇帝上疏请求整顿地方官吏，以安百姓(原文略)。不久，迁为散骑常侍。
宣帝司马懿将伐辽东，何曾向魏帝上疏请求派遣监军或副将同行，以防意外(原文略)，魏帝没有接受这个意见。后来出补河内太守，在任期间素有威严的称誉。后征入朝中作侍中，母亲去世时，离职守丧。
嘉平年间(249～254)，为司隶校尉。抚军校事尹模，倚仗权势，作威作福，巧取豪夺，朝野人士都惧怕他，无人敢言。何曾上奏朝廷，弹劾尹模，受到朝中大臣的称赞。当时曹爽专权，宣帝以病为由不涉朝政，何曾也称病引退。曹爽被杀，他才起来履行公事。魏帝被废黜，何曾也参与了谋划。
当时步兵校尉阮籍自负有才，行为放荡，为母居丧不守礼制。何曾在文帝司马昭面前当面质问阮籍说：“卿放纵情欲违背礼制，是伤风败俗之人，当今忠贤之臣执政，对臣僚要根据名实综合考核，像卿这种做法，是不可提倡的。”事后又对文帝说：“您正以孝治天下，却听凭阮籍守丧期间在您座旁饮酒吃肉。应该把他放逐到荒远的边疆，不要让他污染华夏。”文帝说：“此人如此瘦弱多病，君不能看在我面上容忍他吗？”何曾又引经据典，指责阮籍，辞理很严厉。文帝虽然没有听他的，当时人们颇为敬畏他。
毋丘俭被杀，他的儿子毋丘甸、妻子荀氏应株连处死。荀氏的族兄荀岂页、族父荀虞都与景帝司马师有姻亲关系，共同向魏帝上表，乞求饶荀氏命。魏帝下诏让荀氏离婚。荀氏所生女毋丘芝为颍川太守刘子元妻，也株连判死刑，因怀孕囚于监中。荀氏去信向何曾求情说：“毋丘芝囚在廷尉狱中，命运可知，死亡计日可待。我请求去做官婢，以赎毋丘芝一命。”何曾哀怜他们母女，上递状辞请求复议，朝廷议论都以为何曾的意见正确，于是修改了法律条文。何曾等语在《刑法志》中。
何曾在司隶任职多年，迁升为尚书。正元年间(254～256)，为镇北将军、都督河北诸军事、假节。将要赴任，文帝让武帝司马炎、齐王司马攸送数十里。何曾为宾客准备了有太牢的丰盛宴席，侍从吏卒无不吃饱喝醉。武帝从何曾那里出去，又去拜访何曾的儿子何劭。何曾事先训诫儿子说：“客人一定会拜访你，你事先要做好周密准备。”何劭不戴冠不束带，让武帝留在他住处很久，何曾严厉训斥了何劭。何曾就是这样受到司马氏的器重。后来迁为征北将军，晋封为颍昌乡侯。咸熙初(264)，拜为司徒，改封为朗陵侯。司马昭做晋王时，何曾与高柔、郑冲都是三公，入见晋王时，何曾独自下拜，以表示最高敬意，高、郑二人仅作揖罢了。
司马炎继承晋王位，以何曾为晋丞相，加侍中，与裴秀、王沈等劝晋王称帝代魏。晋王受禅即帝位后，拜何曾为太尉，晋爵为公，食邑一千八百户。武帝泰始初年(265)，皇帝下诏(诏文略)，任命何曾为太保。过了很久，又让何曾以太保本官兼司徒。何曾坚决辞让，皇帝不许，派遣散骑常侍以圣旨告谕，何曾才就职。后又进位太傅。
何曾因为年老，多次请求让位。皇帝下诏不许，并说：“..鉴于司徒所掌管的事务繁多，不可久劳老臣，现晋何曾为太宰，侍中如故。朝会时可佩剑、穿薄底鞋、坐轿子上殿，如汉相国萧何、田千秋、魏太傅钟繇的例子。赐给钱一百万，绢五百匹，八尺的床一张，以及与床相配套的帐、席、褥。府中置长史、掾属、祭酒及员吏，按旧制行事。所供给的亲兵官骑和从前一样。主管此事的人按典制依次配置，务求优厚完备。”以后每次召见，令其自带平时喜欢的饮食衣服器物，使两个儿子侍从。
咸宁四年(278)，何曾死，终年八十岁。武帝在朝堂穿孝服哀悼，赐给棺材一副，朝服一具，衣服一套，钱三十万，布一百匹。将葬时让礼官议论何曾的谥号，博士秦秀提议谥为“缪丑”，武帝不采纳，下策命谥为“孝”。太康末年(289)，何曾之子何劭自己上表改谥为“元”。
何曾性极孝，闺房私事也很严谨，从少年至成年，不追求声色享受。年老之后，与妻子相见，总是衣冠整齐，相待如宾。自己南面而坐，妻子北面再拜，然后上酒，饮酒罢即出去。一年中如此见面应酬不过两三次。司隶校尉傅玄曾经撰文称赞何曾与荀岂页的孝行(傅文略)。
然而何曾又喜好豪华奢侈，衣食陈设务求奢华。帷帐车服都奢华绮丽到极点，膳食滋味超过帝王之家。平时在宫中与皇帝聚会，不吃宫中太官所设的饮食，皇帝常派人到他家取他喜欢吃的食物。蒸饼上不做十字样的花纹就不吃。他的伙食一天要花一万钱，他还不满意，说：“没有值得下筷子的东西！”下边人呈报文书如用小纸，他就令记室不要上报。刘毅等人多次上奏弹劾何曾奢侈无度，武帝以为他是重臣，从不过问。
都官从事刘享曾上书弹劾何曾奢华，用铜钩和丝带拉车，在牛的蹄角上装饰美玉。后来何曾征召刘享作掾属，有人劝刘享不要应征，刘享以为何曾会秉公办事，不会借公事报私怨，即应召。何曾借一件小事，用棍棒把刘享痛打一顿，作为惩罚。此人表面宽厚而内心刻毒，多有类似这样的例子。当时司空贾充权势可与皇帝相比，何曾便低三下四，依附于他。贾充与庾纯因饮酒发生争执，何曾在评议这件事时，偏袒贾充而压抑庾纯，因而受到正直人士的非议。何曾有两个儿子：何遵、何劭，何劭嗣爵。