羊衜,又称羊茞;荆州南阳郡人,才博辩捷,初为吴大帝长子宣太子孙登宾客,任中庶子。孙登死后,历督军使者,直至始兴太守。
蜀臣费出使东吴重申盟好,在宴席上,羊衜和诸葛恪等吴臣以才博果辩知名,也纷纷论难,辞锋不绝。羊衜善于评品人物,当初全琮、朱据、郝普等满朝权贵,争相结交隐蕃,羊衜却和隐蕃保持距离,最终隐蕃谋反被诛,大家都佩服羊衜有先见之明。
羊衜二十九岁和名士谢景、范慎、刁玄等人成为太子孙登的宾客,其人品才学深受孙登推崇。三十岁时成为太子中庶子,羊衜曾评价孙登的近侍诸葛恪,志大才疏,而顾谭精明狠毒,诸葛恪等人知道后很生气,就故意不重用羊衜,后来羊衜曾推荐李衡为官,让其诉说吕壹的恶行。
辽东公孙渊遭司马懿所攻,遣使者送信向吴国求救,因公孙渊先前有过欺骗东吴的行为,众臣主张斩使者拒之,唯独羊衜建议遣兵救援。孙权问羊衜为何不可,当下羊衜说道:“陛下,将逆贼公孙渊的使者斩首固然能出恶气,可这样做是出了匹夫的怒气,而放弃了霸王之计,臣以为不如借此机会昭示陛下厚德,而出奇兵前往以观动静。如果魏国进攻公孙渊失败,那么我军远赴辽东解救,是恩结于远夷,义盖于万里,如果魏军和公孙渊相持不下,公孙渊首尾不能相顾,那我军正好进攻辽东,然后到处掳掠人口,满载而归,这样也足以让上天惩罚公孙逆贼,一雪往日之耻。”孙权听了深以为是,又问羊衜派谁领兵合适,羊衜毛遂自荐,愿意亲自带兵去辽东,又推荐了将军郑胄和孙怡。孙权大喜,当即批准羊衜所请,并写信给公孙渊,说自己已经派出大军,并假惺惺地告诫公孙渊说司马懿太厉害,一定要小心,“司马懿善用兵所向无前,深为弟忧也。”遂派遣督军使者羊衜、宣信校尉郑胄、将军孙怡统率的大军从海路来到了辽东。