刘晔，字子扬，是淮南成德（“德”字在这里读音和意义与“惪”相同）人，他是汉光武帝刘秀的儿子阜陵王刘延的后代。他的父亲叫刘普，母亲叫刘修，刘修生下了刘涣和刘晔两个儿子。刘涣九岁，刘晔七岁时，他们的母亲病重。临终前，母亲告诫刘涣和刘晔说：“刘普的侍从中有人性格谄媚且有害人之心。我死后，他们一定会扰乱家中的安宁。等你们长大后，如果能除掉这个人，我就没有遗憾了。”刘晔十三岁时，对哥哥刘涣说：“母亲临终时的嘱托，现在可以实现了。”刘涣说：“这怎么可以呢？”刘晔却直接进入房间，杀死了那个侍者，然后出门拜祭祖先。家里人惊慌失措，赶紧告诉刘普。刘普大怒，派人去追刘晔。刘晔回来后，向父亲磕头谢罪说：“母亲临终时的嘱托，我怎么敢不听从呢？我愿意接受擅自行事的惩罚。”刘普见刘晔如此冷静，心中暗暗称奇，于是没有责罚他。
汝南的许劭以善于识人而闻名，他避难来到扬州，称赞刘晔有辅佐天下的才能。
当时扬州的士人大多轻佻、狡猾且好勇斗狠，其中郑宝、张多、许乾等人各自拥有私人武装。郑宝最为骁勇，才力过人，是当地人都忌惮的人物。他打算驱赶百姓渡过长江，去投靠江东的势力。因为刘晔出身名门望族，郑宝打算强行逼迫刘晔带头支持他的计划。刘晔当时二十多岁，内心非常忧虑，但一直苦于没有机会。恰好这时曹操（太祖）派使者来到扬州，调查一些事情。刘晔去拜见使者，和他讨论形势，然后邀请使者和自己一起回去，停留了几天。郑宝听说后，带着几百人，带着牛和酒来拜访使者。刘晔让家里的仆人把郑宝的随从安排在中门外，为他们准备酒饭；而他则在内室宴请郑宝。刘晔暗中命令强壮的仆人，趁敬酒的时候杀掉郑宝。但郑宝酒量不好，而且非常警觉，敬酒的人不敢动手。刘晔于是亲自拔出佩刀，砍杀了郑宝，割下他的头颅，向郑宝的军队宣布：“曹操有令，谁敢反抗，就和郑宝同罪。”郑宝的士兵们惊恐万分，纷纷逃回营地。郑宝的营地有几千精兵，刘晔担心他们会作乱，于是骑上宝马，带着几个家仆，来到郑宝的营地门口，召唤他们的首领，向他们说明利害关系。郑宝的士兵们都被刘晔的气势所震慑，纷纷叩头开门，让他进入。刘晔安抚他们，让他们安心，士兵们都非常信服，推举刘晔为他们的首领。刘晔看到汉朝的气数逐渐衰微，而自己又是皇族的旁支，不想掌握军队，于是把他的部队交给了庐江太守刘勋。刘勋觉得奇怪，刘晔解释说：“郑宝无法无天，他的士兵平时靠抢劫为生。我虽然收服了他们，但他们一定会因为怨恨而难以长久服从，所以我才把他们交给你。”当时刘勋的兵力在长江、淮河一带非常强大。孙策忌惮他，于是派使者带着丰厚的礼物，用谦卑的言辞劝说刘勋：“上缭的宗族百姓，多年来一直欺压我们。我们早就想报复他们，但路途不便。希望借助您的力量去攻打他们。上缭非常富有，攻下他们可以让我们国家更加富强。请出兵作为外援。”刘勋相信了孙策的话，又得到了孙策送来的珠宝和葛越，非常高兴。他的手下都来祝贺，只有刘晔不以为然。刘勋问他原因，刘晔回答说：“上缭虽然小，但城墙坚固，护城河深邃，防守容易，进攻困难。我们很难在短时间内攻下他们，那么我们的军队就会在外面疲于奔命，而国内则兵力空虚。孙策趁机袭击我们，我们就会陷入两难的境地。将军您进不能战胜敌人，退又没有地方可去。如果一定要出兵，灾难马上就会降临。”但刘勋没有听从刘晔的劝告，派兵去攻打上缭。孙策果然趁机袭击了刘勋的后方。刘勋陷入绝境，最终投奔了曹操。
曹操来到寿春时，庐江境内有山贼陈策，他有几万部众，占据险要地势坚守。之前曹操曾派偏将去讨伐，但都没有成功。曹操问手下的人，是否可以再次讨伐陈策。大家都说：“山势险峻，溪谷深邃，防守容易，进攻困难。再说，攻下这个地方对我们也没有什么好处，不攻对我们也没有什么损失。”刘晔却说：“陈策这些人只是小喽啰，他们趁着天下大乱，占据险要地势，互相依附，才变得强大。他们并没有朝廷的任命，也没有威信让手下真正信服。以前偏将的兵力不足，而且中原地区还没有平定，所以陈策才敢凭借险要地势坚守。现在天下已经基本平定，谁敢反抗，谁就会先被消灭。人怕死，喜欢得到奖赏，这是常识。当年广武君李左车为韩信出谋划策，认为韩信的威名足以让敌人闻风丧胆，从而轻易地攻下邻国。何况您的德行远近闻名，东征西讨，让人心悦诚服。如果您先宣布赏格，然后大军压境，那么在宣布命令的那天，敌人的军营就会自行崩溃。”曹操笑着说：“你说得很有道理！”于是派猛将在前面开路，大军随后跟进，结果很快就打败了陈策，正如刘晔所预料的那样。曹操回到许昌后，征召刘晔担任司空仓曹掾。
《傅子》中记载：曹操曾征召刘晔、蒋济、胡质等五人，他们都是扬州的名士。每次住宿在驿站时，他们都会互相讨论学问，因此受到曹操的赏识。他们讨论的内容包括国内先贤的事迹、抵御贼寇的策略、行军的进退等，甚至还会分析敌人的变化、双方的虚实以及战争的策略，昼夜不停地讨论。但刘晔却独自躺在车里，始终一言不发。蒋济觉得很奇怪，问他为什么。刘晔回答说：“面对圣明的君主，如果没有全神贯注，怎么能够应对呢？但精神是可以培养的吗？”等到他们见到曹操时，曹操果然问起扬州的先贤和贼寇的形势。其他四人都争着回答，依次发言，曹操每次都很高兴。但刘晔始终一言不发，其他四人都嘲笑他。后来有一次，曹操没有再问其他问题，刘晔这才用深远的言辞来打动曹操。曹操刚刚有所察觉，刘晔就停止了发言。这种情况发生了三次。刘晔的意思是，深远的言辞应该集中精力去思考，独自面对君主时才能充分表达自己的见解，而不适合在众人面前讨论。曹操已经看穿了他的心思。会面结束后，曹操任命四人为县令，而把刘晔当作心腹，每次遇到疑难问题，就写信向他请教，有时一个晚上要送几十封信。
曹操（太祖）征讨张鲁时，刘晔被任命为主簿。到达汉中后，发现山势险峻难以攀登，军粮也供应不足。曹操说：“这个地方不过是妖言惑众的国家罢了，有什么值得留恋的呢？我们的军粮不足，不如早点回去。”于是他亲自带领军队返回，命令刘晔负责督率后续部队，依次撤退。
刘晔分析后认为张鲁是可以被攻克的，而且军粮供应不足，即使撤退，军队也难以全身而退。于是他飞马向曹操报告：“不如趁机发动进攻。”于是曹操命令部队发起进攻，用弩箭密集射击张鲁的营地。张鲁惊慌失措，仓皇逃走，汉中最终被平定。
刘晔进一步建议：“您以区区五千步兵，诛杀了董卓，北面打败了袁绍，南面征讨了刘表，九州百郡中，您已经占据了八成。您的威名震动天下，威势震慑海外。如今您拿下汉中，蜀地的人们闻风丧胆，失去防守之心。按照这个趋势发展下去，蜀地可以用一纸檄文就能平定。刘备是人中豪杰，但他行事谨慎，占据蜀地时间尚短，蜀地人民还没有完全归心。如今我们攻克汉中，蜀地人民惊恐万分，局势已经动摇。凭借您的神勇，趁机施加压力，一定能取得胜利。如果稍有迟疑，诸葛亮善于治理国家，关羽和张飞勇冠三军，蜀地人民安定下来后，他们据守险要，我们就很难再攻破了。如果现在不攻取，必定会成为后患。”曹操没有采纳他的建议。《傅子》记载，过了七天，投降的蜀人说：“蜀中一天之内惊恐数十次，刘备虽然斩杀了一些惊慌失措的人，但仍然无法安定人心。”曹操又问刘晔：“现在还能不能进攻？”刘晔回答：“蜀地已经初步安定，不能再进攻了。”于是大军撤回。
刘晔从汉中返回后，被任命为行军长史，兼领军。延康元年，蜀将孟达率众投降。孟达仪表堂堂，才华横溢，文帝（曹丕）非常赏识他，任命他为新城太守，加封散骑常侍。刘晔却认为：“孟达有投机取巧之心，恃才傲物，善于玩弄权术，他一定不会感恩戴德，忠心耿耿。新城与吴、蜀接壤，如果孟达有什么异动，会给国家带来祸患。”但文帝没有听从他的意见，后来孟达果然叛变。
《傅子》记载，当初在曹操时期，魏讽名声很大，从卿相以下的人都争相与他交往。后来孟达离开刘备投奔文帝时，很多人称赞他有乐毅的气量。刘晔第一次见到魏讽和孟达时，就断定他们一定会反叛，结果果然如他所料。
黄初元年，刘晔被任命为侍中，赐爵关内侯。皇帝下诏，让群臣预测刘备是否会为关羽之死出兵攻打东吴。众人都说：“蜀国是个小国，名将只有关羽。关羽战死，军队溃败，国内人心惶惶，刘备不可能再出兵。”只有刘晔说：“虽然蜀国地狭力弱，但刘备有称霸的野心，他一定会用军队来显示自己的实力。而且关羽和刘备，名义上是君臣，实际上情同父子。关羽战死，刘备不可能不兴师报仇，否则就违背了他们之间的君臣之义。”后来刘备果然出兵攻打东吴。东吴全国动员，同时派遣使者向魏国称臣。朝廷大臣们都表示祝贺，只有刘晔说：“东吴地处长江、汉水之外，很久以来就没有真心归附朝廷的意思。陛下虽然德行高尚，但东吴这种野蛮的国家，很难被感化。他们之所以在困难时请求归降，一定不可信。他们一定是内外交困，才不得不派使者来。我们应该趁他们困难的时候，发动进攻，一举拿下。如果放过这个机会，就会给子孙后代留下无穷的后患，千万不能大意。”刘备的军队最终战败撤退，东吴对魏国的礼敬也逐渐冷淡。皇帝打算兴兵讨伐东吴，刘晔认为：“东吴刚刚取得胜利，上下齐心，而且他们占据长江、湖泊的天险，我们很难迅速取胜。”皇帝没有听从他的建议。
《傅子》记载，孙权派使者请求投降，皇帝问刘晔的意见。刘晔回答说：“孙权无缘无故请求投降，一定是因为内部有急事。他之前袭击关羽，夺取了荆州四郡，刘备大怒，一定会大举进攻。东吴外部有强敌，内部人心惶惶，又担心我们趁机进攻，所以才假装投降，一方面想让我们停止进攻，另一方面想借助我们的力量来威慑敌人。孙权善于用兵，善于随机应变，他的计划一定就是这样。现在天下三分，我们占据了八成。吴、蜀各自占据一州，依靠山川湖泊的险要，互相救援，这是小国的优势。现在他们自己打起来了，这是上天赐予我们的机会。我们应该大举进攻，直接渡过长江，袭击东吴的内部。蜀国从外部进攻，我们从内部袭击，东吴的灭亡就在旦夕之间。东吴灭亡后，蜀国就会孤立无援。即使蜀国得到了东吴的外层土地，我们也得到了东吴的内层土地，蜀国也难以长久。”皇帝说：“别人投降我们却去进攻，会让天下人害怕，怀疑我们是否真心接纳他们。我为什么不先接受东吴的投降，然后再找机会进攻蜀国呢？”刘晔回答说：“蜀国距离我们遥远，东吴距离我们很近。东吴听说我们进攻，一定会迅速撤军，我们很难阻止。现在刘备已经大怒，所以才进攻东吴。他听说我们进攻东吴，知道东吴必亡，一定会很高兴，进而和我们争夺东吴的土地。他不可能改变计划，平息怒火去救援东吴，这是必然的趋势。”皇帝没有听从他的建议，于是接受了东吴的投降，封孙权为吴王。刘晔又进谏说：“不能这样。先帝征伐四方，天下已经被我们占据了八成，威震海内。陛下继承大统，德行感天动地，这是事实，并非我一个人的夸赞。孙权虽然有雄才大略，但他也不过是汉朝的骠骑将军、南昌侯罢了，官职低微，势力弱小。江南的百姓对我们心存畏惧，他不可能强迫百姓和我们一起实现他的阴谋。我们不得已接受他的投降，可以提升他的将军称号，封他为十万户侯，但不能直接封他为王。王位距离天子只差一步，他们的礼仪、待遇和服饰很容易混淆。如果他只是一个侯爵，江南的百姓就不会和他形成君臣关系。如果我们相信他的假投降，进而封他为王，提升他的地位，确定他的君臣关系，这就好比给老虎插上了翅膀。孙权接受了王位后，刘备撤军之后，他表面上对朝廷恭敬，让国内百姓都知道，但内心却对我们无礼，以此激怒陛下。陛下一定会大怒，兴兵讨伐他。那时他会慢慢告诉百姓说：‘我全心全意归附朝廷，不惜贡献珍宝，按时进贡，不敢失礼。他们却无故进攻我，一定是想消灭我的国家，俘虏我的百姓，把我们的子女变成奴隶。’东吴的百姓一定会相信他的话。他们相信他的话后，就会愤怒，上下一心，战斗力会增强十倍。”皇帝还是没有听从他的建议，于是正式封孙权为吴王。后来孙权的将领陆逊大败刘备，杀死蜀军八万多人，刘备仅以身免。孙权对外表面上更加恭敬，但内心却更加不顺从，果然如刘晔所言。
五年后，皇帝驾临广陵泗口，命令荆州和扬州的军队同时进攻。皇帝召集群臣，问：“孙权会亲自来吗？”大家都说：“陛下亲自出征，孙权一定会非常害怕，肯定会全国动员。他也不敢把大军交给手下将领指挥，一定会亲自前来。”刘晔却说：“孙权认为陛下想亲自牵制他，而真正渡过长江的将领是别人。他一定会严阵以待，不会轻易进退。”皇帝的军队在那里停留了多日，孙权果然没有来。皇帝于是撤军，说：“你的分析是对的。你应该考虑为我消灭这两个敌人，而不仅仅是了解他们的情况。”
魏明帝曹叡即位后，刘晔被晋升为东亭侯，食邑三百户。明帝下诏说：“尊敬祖先，是为了弘扬孝道，表彰高尚的品德；追溯本源，敬重始祖，是为了加强教育，传播良好的风气。因此，成汤、周文王、周武王，他们建立了商朝和周朝，诗书的教义中，追尊后稷和契，歌颂有娀和姜嫄的事迹，是为了表明盛德的传承，以及接受天命的根源。我们魏国能够继承天命，是从高皇（曹操的父亲曹嵩）和太皇帝（曹操）开始的，而功业则在武皇帝（曹操）和文皇帝（曹丕）时达到高峰。至于高皇的父亲处士君（曹嵩的父亲），他潜心修养德行，行为光明正大，这是天地所赐福的对象，也是我们家族荣耀的来源。然而，他的精神虽然深远，但他的称号却没有被记录下来，这不符合弘扬孝道、重视本源的原则。现在命令公卿以下的官员，共同商议他的谥号。”刘晔发表意见说：“陛下想要褒奖和尊崇祖先，这是无限崇高的孝心。然而，亲疏远近的礼节，都有明确的规定，这是为了割断私情，确立公法，作为万世的榜样。周王之所以追尊后稷，是因为他在唐尧时期有功，名字被记载在祭祀的典籍中。至于汉朝初期，追谥的礼节，一般不超过父亲。从周朝的角度来看，大魏的发迹是从高皇开始的；从汉朝的角度来看，追谥的礼节也不涉及祖先。这确实是前代的成法，也是当今的明义。陛下孝心深重，但君主的每一个举动都必须记录下来，这是为了谨慎对待礼制。我认为追尊的礼节，应该只到高皇为止。”尚书卫臻与刘晔的意见相同，于是这件事就这样实施了。
辽东太守公孙渊夺取了叔父的职位，擅自立自己为王，并派遣使者向朝廷上表。刘晔认为，公孙氏是汉朝任命的官员，世代相传，他们通过海路和山路，与中原地区隔绝，因此胡人和夷人很难控制他们，而他们的权力也日益巩固。如果现在不消灭他们，以后一定会成为祸患。如果他们心怀二意，凭借兵力抵抗，然后再去讨伐他们，事情就会变得非常困难。不如趁他们刚刚立国，有党羽也有仇敌，出其不意地用军队威慑他们，公开悬赏招募，可以不费一兵一卒就平定他们。后来，公孙渊果然反叛了。
刘晔在朝廷任职时，很少与当时的官员交往。有人问他为什么，刘晔回答说：“魏国刚刚建立，有智慧的人都知道天命，但世俗之人可能还没有完全明白。我在汉朝只是一个小角色，但在魏国却是核心人物。我很少与人交往，这并没有什么不对。”太和六年，刘晔因病被任命为太中大夫。后来，他又担任大鸿胪，任职两年后主动让位，又重新担任太中大夫，直到去世。他被追封谥号为“景侯”，他的儿子刘宇继承了他的爵位。
《傅子》记载：刘晔侍奉明帝时，受到极大的宠信和重用。明帝打算讨伐蜀国，朝臣们无论内外都一致认为“不可行”。刘晔进宫与明帝商议时，却说“可以伐蜀”；出来后与朝臣们交谈时，又说“不可伐蜀”。刘晔胆识过人，他的话总是很有说服力。中领军杨暨是明帝的亲信，也非常看重刘晔，他坚决主张“不可伐蜀”，每次从宫中出来，都会去拜访刘晔，刘晔也向他讲述“不可伐蜀”的理由。后来，杨暨随明帝来到天渊池，明帝谈到伐蜀的事情，杨暨竭力劝谏。明帝说：“你是个书生，怎么懂军事呢？”杨暨谦虚地道歉说：“我只是一个普通的儒生，承蒙陛下错爱，把我从众人中提拔到六军之上。我虽然地位不高，但也有自己的想法，不敢不直言。我的话也许不值得采纳，但侍中刘晔是先帝的谋臣，他曾经说过蜀国不可伐。”明帝说：“刘晔和我说蜀国是可以伐的。”杨暨说：“可以召刘晔来对质。”明帝下诏召刘晔前来，问他这件事，刘晔始终一言不发。后来单独见到刘晔时，刘晔责备明帝说：“讨伐一个国家，这是重大的决策，我有幸参与其中，常常担心在梦中泄露机密，增加我的罪过，怎么敢随便对别人说呢？兵法讲究诡道，军事行动在没有发动之前，越保密越好。陛下却公开谈论这件事，我担心敌国已经知道了。”于是明帝向他道歉。刘晔出来后，责备杨暨说：“钓鱼的人钓到大鱼，就会先放松鱼线，跟着鱼游动，等到可以控制它的时候再拉上来，这样才能有所收获。君主的威严，难道只是大鱼而已吗？你确实是个正直的臣子，但你的计策并不足取，不能不深思熟虑。”杨暨也向他道歉。刘晔就是这样能够随机应变，保持两面立场。
有人在明帝面前诋毁刘晔说：“刘晔不忠诚，善于揣摩陛下的意图，然后迎合你。陛下可以试探一下刘晔，和他说话时故意反着说，如果他每次都和你反着说，那就说明他总是和陛下的想法一致；如果他每次都和你意见相同，那他的真实想法就无处遁形了。”明帝按照这个人的话去试探刘晔，果然发现了他的真实想法，从此疏远了他。刘晔于是装疯卖傻，被外放为大鸿胪，最终忧愤而死。俗话说“巧诈不如拙诚”，这句话确实有道理。以刘晔的聪明才智和权谋计策，如果他能够以德义为本，以忠信行事，即使是古代的贤人，又有谁能超过他呢？但他只依赖自己的才智，不与世间的贤士相互配合，对上不推心置腹，对外又受世俗的困扰，最终不能在天下安身立命，这难道不可惜吗？
刘晔的小儿子刘陶，才华横溢但行为不端，官至平原太守。《王弼传》记载：淮南人刘陶，善于纵横捭阖之术，被当时的人所推崇。《傅子》记载：刘陶，字季冶，善于言辞，有很强的辩论能力。曹爽时期，他担任选部郎，邓飏等人称赞他为伊吕（伊尹和吕尚）。当时，他意气风发，对玄说：“仲尼（孔子）不是圣人。为什么呢？智者治理国家，天下那些愚昧的人，就像玩弄一颗弹丸在掌心一样容易，但他们却不能得到天下。”玄认为他的话非常荒谬，不再与他争论，只是对他说：“天下的本质是变化无常的。现在我看到你已经陷入困境！”曹爽失败后，刘陶退居家中，才承认自己之前的话是错误的。《晋纪》记载：毋丘俭起兵时，大将军（司马师）问刘陶的意见，刘陶回答得模棱两可。大将军愤怒地说：“你平生和我讨论天下大事，到了今天却不再直言不讳了吗？”于是把他外放为平原太守，后来又派人将他杀死。