耶律乙辛，字胡睹衮，五院部人。耶律乙辛降生时，正赶上一家奔走在路上，没有水加以洗浴，在掉转车头、碾破辙迹，忽然看见上涌的泉水。父亲迭剌原为得了儿子，正想饮酒而庆贺。闻到酒香，在草丛荆棘中得到两壶酒，于是以酒祭祀东方。
乙辛幼年聪慧机敏。曾经牧羊至太阳偏西，迭剌巡视，看到乙辛正在熟睡。迭剌把他碰醒，乙辛怒道：“为什么这样快就惊动我？方才梦见有人手持日月而让我进食，我已经吃掉月亮，吞吃太阳刚到一半就醒了，可惜不能全部吃掉它。”迭剌从此以后不再让乙辛牧羊。
耶律乙辛长大以后，风度翩翩，仪表堂堂，外貌谦和，内心狡黠。重熙年间，任文班吏，掌太保印，陪从在宫中。皇后见乙辛安详文雅，委任他为笔砚吏；辽兴宗也喜欢他，屡次升迁到护卫太保。道宗即位，由于乙辛为先朝任使，赐给汉人户四十，同知点检司事，常常召他参与解决难于议决的问题，升北院同知，枢密副使。清宁五年，为南院枢密吏，改官主持北院，封为赵王。
清宁九年，耶律仁先任为南院枢密使，当时附马都尉萧胡睹和重元结成同伙，讨厌耶律仁先在朝内，启奏说：“仁先可任西北路招讨使。”道宗准备依从他。乙辛奏说：“我刚参政，不熟悉治国的大体。仁先乃是先皇帝的旧臣，不可突然离开朝廷。”道宗表示赞同。重元之乱平定以后，授乙辛北院枢密使，进号为魏王，赐号为匡时翊圣竭忠平乱功臣。道宗咸雍五年，代理太师。诏令四方如有军事行动，允许乙辛斟酌事势自行处理。一时权势倾动朝野，门下贿赠络绎不绝，凡曲从迎合的就受到荐举提升，凡忠信耿直的则被废弃贬逐。
道宗太康元年，皇太子开始亲政，法令制度整饬清明，乙辛不能再随意得逞，就谋划诬陷皇后。皇后死后，乙辛不能自安，又想加害太子。便趁机入奏说：“皇帝和皇后如同天地一样并列的位置，中宫岂可空缺？”于是竭力称赞他的同伙驸马都尉萧霞抹的妹妹美丽贤良。道宗听信，将萧抹霞的妹妹接纳入宫，不久册封为皇后。当时护卫萧忽古了解乙辛邪恶不正的详情，埋伏于桥下，想要杀他。不久暴雨冲坏桥梁，计划没有成功。林牙官萧岩寿向道宗密奏：“乙辛自从皇太子参预朝政后，内心一直感到疑惧不安，与宰相张孝杰互相依附，恐有反叛的图谋，不可使他居于枢要地位。”于是外放为中京留守。乙辛哭泣着对人说：“乙辛并没有过错，只因为受到谗言而被外放。”他的同伙萧霞抹之流把他的话禀告道宗，道宗后悔。不久，外放萧岩寿为顺义军节度使，令近臣商议召回乙辛的事情。朝中大臣没有人敢于说话，耶律撒剌说：“最初因为萧岩寿上奏而外放乙辛，如果他所说的不恰当，应该加以判罪；如果恰当，那就不再召回。”屡次劝谏道宗都不听从。于是再次征召乙辛为北院枢密使。
当时皇太子因母后被害，忧愁表行脸上。乙辛一伙欢欣跳跃互相庆贺，谗言谤语沸沸扬扬，忠良之士几乎全部被贬斥。乙辛根据萧十三的话，连夜召萧得里特谋划构陷太子，命令护卫太保耶律查剌诬告耶律撒剌等同谋立皇后太子。诏令审查，找不到证据，只好罢手。又让牌印郎君萧讹都斡晋见道宗，诬陷说：“耶律查剌以前告发耶律撒剌等事都确实无误，臣也参与了谋划，本来要杀乙辛等立太子。臣等如不坦白承认，怕真相大白以后牵连获罪。”诏令问罪审讯，乙辛迫使他们全部承认。道宗震怒，命令诛杀撒剌及速撒等。乙辛恐怕道宗日后生疑，拉众人当堂审问，证人戴着重枷，绳索捆着他们的脖颈，以致不能出气，人人难以忍受其残暴，惟求赶快一死。乙辛回去向道宗启奏说：“没有不同的说法。”当时正值暑天，尸体不得埋葬，以至于连发出阵阵恶臭。于是在上京囚禁皇太子，监护守卫者都是乙辛的同党。不久派萧达鲁古、撒把害死太子，乙辛一伙大为高兴，相聚饮宴数日。上京留守萧挞得把太子的死讯禀告道宗。道宗哀悼，想召回太子的妻子，乙辛暗中派人杀掉了她灭口。
五年正月，道宗将要出猎，乙辛上奏将皇孙留在京城，道宗想听从他。同知点检萧兀纳谏说：“陛下如果听从乙辛的意见留下皇孙，皇孙尚且幼小，左右无人照顾，愿留臣加以保护，以防意外事件。”于是与皇孙一起上路。从此道宗开始怀疑乙辛，颇为知晓他的一些奸邪之事。适逢皇帝起驾临幸北方，将到达黑山的平淀，恰好看见邑从官员多随乙辛身后，于是讨厌他，外派乙辛知南院大王事。按照规定削掉一字王爵，改混同郡王，自己稍稍感到安心。等到入宫谢恩，皇上当日遣还，改派主持兴中府事。
七年冬，乙辛把法令禁止的物品卖给外国而获罪，被发交有关部门议罪，按法律应处死刑。乙辛同伙耶律燕哥独奏当以八议之例减刑，得免死罪，以铁骨朵棍棒相击，拘禁在来州。终以勒颈绝气的刑法被杀掉了。乾统二年，掘开坟墓，扔其尸骨示众。