何胤字子季，过继给了叔叔何旷，所以改字叫季叔。八岁时，居丧，哀伤超过成人。等长大后，轻薄不羁，很晚的时候才自强好学，以沛国刘王献为师，学习《易》和《礼记》、《毛诗》。又入了钟山定林寺去听内典，其学业都能通晓。而纵情旷放，当时的人们却不知道，只有刘王献和汝南周..深深地惊异和器重他。
在齐国做官担任建安太守，为政有恩德信誉，人们不忍相欺。他常常在伏日和腊日放囚犯回家，都能按时返回。
他曾历任黄门侍郎、太子中庶子。尚书王俭接受诏令撰写新礼仪，没有写完就死了。又派特进张绪把它续成，张绪又死去，便交给了司徒竟陵王萧子良。萧子良又让给了何胤，于是设置了学士二十人，帮助何胤进行撰录。
后来，何胤以国子祭酒的身份与太子中庶子王莹一起为侍中。当时何胤单做祭酒，怀疑所穿的衣服。陆澄博通古事，也没找到依据，于是便穿着黑色衣服临场监考。此后又进行详细讨论，乃用红色衣服，祭酒穿红衣，就是由此开始的。
后来郁林继承皇位，何胤属于皇后家族，所以很受亲近。做了中书令，兼做临海、巴陵王师。何胤虽然显贵，却常常想着止足。建武初年，他已经在郊外建了房子，经常与徒弟到里面游玩和居住。到了现在于是便想卖掉园宅东去。还没有出发，就听说谢紻免了吴兴郡的职务不再回来，何胤恐怕落在他后面，便上表辞职，没等回答就离去了。明帝大怒，指使御史中丞袁昂奏表拘捕何胤。不久又下了诏书释放了他。
何胤因为会稽的山多有灵异，便前往旅游，住在若邪山云门寺。起初，何胤的两个哥哥何求、何点都隐遁起来，何求先死，到现在何胤又隐居，世人称何点为“大山”，何胤为“小山”，也叫“东山”。兄弟发迹虽然不同，最终都是隐居，世人称为何氏三高。
永元年间(499～501)，他被征召为太常、太子詹事，都没有到任。梁武帝的霸朝建立，引他为军谋祭酒，并且给他发了聘书，没有前来。等武帝登基，诏令他为特进、光禄大夫，派领军司马王杲之带着手诏去传达意旨，并同时征召谢紻。
王杲之先到了何胤的住所，何胤恐怕谢紻不出，先是表示可以起身，便穿着单衣，戴着鹿皮巾，手拿经卷，下床跪拜接受。诏令他出山，他却坐在席上低头读书。何胤于是便对王杲之说：“我从前在齐朝想提出三两条建议：一是想校正郊丘，二是想另铸九鼎，三是想建立双阙。世上传说晋室想要立阙，王丞相指着牛头山说：‘这就是天阙，’这是他不明白立阙的意义。阙，是指象魏，把法令挂在上面，十天后收下。象的意思是法，魏的意思是位于路口而且高大的样子。鼎是神器，有国家首先就要有它。圆丘和南郊，旧典中并不相同。南郊是祭祀五帝灵威仰之类，圆丘是祭祀天皇大帝、北极大星的。以往的朝代合为郊丘，是前辈儒者的巨大失误。现在梁德宣告开始，不应该因循前朝的谬误。您应该向朝廷说明。”王杲之说：“在下鄙劣，岂敢轻率地议论国家典章，这应当敬候叔孙生前来呀！”
王杲之从谢籫那里回来，问何胤的出山日期。何胤知道谢籫已经应召，回答王杲之说：“我年纪已经五十七岁，一月吃不完四斗米，怎能再有做官的心情？”王杲之失色不能回答。何胤反过来又对他说：“您何不派人传诏回朝奏表，留下来与我同游呢？”王杲之愕然地说：“古今没听说有这样的例子。”何胤说：“《檀弓》两卷，都是讲事物的开始。从您开始，何必要有先例？”何胤、谢籫，都是前代的高士，何胤的名誉尤其高迈。
王杲之回去后，把何胤的意思上奏，皇帝诏令供给他白衣尚书的俸禄。何胤坚决推辞。又诏令山陰把官库中的钱每月供给他五万，何胤又不接受。于是便诏令何子朗、孔寿等人在东山跟他上学。太守衡陽王萧元简深深地加以礼敬，每个月中常常乘车登门拜访，谈论终日。
何胤因为若邪山所处的地方狭小，容不下学徒，于是迁到了秦望山。山上有飞泉，便建起了学舍，以树林为外援，就山崖做围墙，另外建了一座小绑室，住在里面，亲自开关门户，僮仆都不能进来。山旁种田二顷，讲课之余就由学生跟着游览。何胤起初迁来将要筑室的时候，忽然看见两个人戴着黑冠，容貌伟岸，问何胤说：“您想住在这里吗？”便指着一处地方说：“此处特别吉利。”忽然又不见了。何胤依照他们的话作了选择。不久山上发了洪水，树木石头都被倒拔，只有何胤所住的房子独存。萧元简便让记室参军钟嵘作了一篇《瑞室颂》，刻在石头上作为表扬。
后来萧元简要离开会稽郡，入山与何胤告别。何胤送他到都赐埭，离郡三里，于是说：“我自己弃绝了人事，交游的道路断绝，不是您贵人降临山林，哪会重见城镇。此地的游览，从今就要断绝了。”握着手流下了眼泪。
何氏过江后，从晋朝的司空何光开始，都葬在吴地的西山。何胤的家世年龄都不长久，只有祖父何尚之活到七十二岁。何胤的年龄赶上了祖父时，便迁移回到了吴地，作了《别山诗》一首，言辞十分凄怆。
到了吴地，他住在武丘山西寺讲述经论，学徒们又随他前来。东部的郡县官员路过的，无不全部前来。何胤常常禁止杀生，有个虞人追逐一只鹿，鹿径直跑到何胤跟前，趴下不动。又有一只奇异的鸟像是鹤，红色，聚集在讲堂里，驯顺如同家禽。
起初，开善寺的藏法师与何胤在秦望山相遇，后来回到了京城，死在钟山。临死的那天，何胤在波若寺见了一个僧人，送给何胤一个香炉匣和一盒子书，说：“贫道从扬都出发，呈给何居士。”说罢便不见了。何胤打开盒子，乃是《大庄严论》，世间未有。查访这个香炉，原是藏公所曾用的。又在寺内立了明珠柱，柱便七天七夜放光。太守何远把这种情况启奏了昭明太子，太子钦佩他的德行，就派舍人何思澄送上了手令对他进行赞美。中大通三年(531)去世，享年八十六岁。
在此以前，何胤曾经生病，妻子江氏梦见神告诉她说：“你丈夫的陽寿已尽，既然有了大德，应该获得延期，你要去代替他。”妻子醒了叙说了梦中的情景，很快就得病而死，何胤的病却好了。到现在何胤梦见了一个神女和八十来个人，都穿着交领的丧服，排列在面前，一起跪拜在床下，醒了以后，又一次看到，于是他便让人安排丧事。随后就病重不再好转。
起初，何胤奢侈于美味，吃饭必定要大量菜肴，后来逐渐想去掉那些太过分的，仍然是吃白鱼、鳝脯、糖蟹，还认为是见不到生物。他对吃蚶蛎有怀疑，就让门人进行讨论。学生钟祎说：“鳝鱼取艾，骤然屈伸，螃蟹沾糖，躁动更甚。仁人心意，深怀忧伤。至于车鳌蚶蛎，眉目内陷，可悲浑沌得出奇，粗壳外裹，无需金人的谨慎。不衰不盛，连草木也不如，无香无臭，与瓦砾有何异！所以应该长久地供应厨房，永远地作为食品。”竟陵王萧子良见了钟祎的议论大怒。汝南的周..给何胤写信，劝告让他吃菜，说：“变化最大的，莫过于死生，活着最重的，无过于性命。性命对于它们极其迫切，滋味对于我们可以松缓。如果说关于过去、现在、未来三世的理论虚假，则十分幸运愉快，如果这种现象果然存在，而托生不止，一往一来，生死成为常事，那么令人伤心的惨状，自己也将会遇上。先生对于血气之类，虽然没有亲自动手，但是早晨野鸭，晚上鲤鱼，不能不从屠宰者那里取来。财宝经过了贼手，还为廉士所抛弃，生命遭受了刀割，难道慈者能忍心？驺虞虽然饥饿，但不是自己枯死的草不吃，听到了它的风格，岂不让人多有惭愧？先生早就懂得了这些道理，我只是说上几句提醒一下罢了。”所以何胤晚年便断绝了血味。
何胤注《百论》、《十二门论》各一卷，注《周易》十卷，《毛诗总集》六卷，《毛诗隐义》十卷，《礼记隐义》二十卷，《礼答问》五十五卷。他的儿子何撰也不做官，有高尚的风范。