少有才学，南齐时，以太学生游于竟陵王萧子良西邸，历始安王侍郎、建安征虏府主簿功曹，兼记室参军。诗为谢脁所称赏。入梁，官至为晋安王侍郎。事迹附见《南史》卷五九《王僧孺传》后。史称其“盛有才藻，卒于晋安王侍郎”（《南史》）。
虞羲的诗以《文选》所录《咏霍将军北伐》最为有名。这首诗写沙场烽火，如“长城地势险，万里与云平”、“飞狐白日晚，瀚海愁云生。羽书时断绝，刁斗昼夜惊”，颇有气势。诗中歌颂霍去病伐匈奴的战功，并对他的早死感到惋惜，反映了齐梁间一些人希望北伐、平定中原的意愿。虞羲还有一首抒情诗《送友人上湘》写离别之情：“共盈一樽酒，对之愁日暮；汉广虽容，风悲未可渡。”用典贴切，感情真挚。其他如《见江边竹》、《春郊》、《咏秋月》等，也有一些清丽之句。
虞羲原有集11卷，《隋书·经籍志》录有《虞羲集》9卷，已佚。今仅存文1篇，诗12首，收入《全上古三代秦汉三国六朝文》、《先秦汉魏晋南北朝诗》中。
五瑞分王国，双珠映后家。文飞书上凤，武结笥中蛇。
出豫荣前马，回鸾丧后车。衮衣将锡命，泉路有光华。
国骋双骐骥，庭仪两凤凰。将星连相位，玉树伴金乡。
歌舞侯家艳，轩裘戚里光。安知杜陵下，碑版已相望。
阴积龙荒，寒度雁门，西北高楼独倚。怅短景无多，乱山如此。欲唤飞琼起舞，怕搅碎、纷纷银河水。冻云一片，藏花护玉，未教轻坠。
清致。悄无似。有照水一枝，已搀春意。误几度凭栏，莫愁凝睇。应是梨花梦好，未肯放、东风来人世。待翠管、吹破苍茫，看取玉壶天地。
直城朱户相逦连，九逵丹毂声阗阗。春官自有花源赏，
终日南山当目前。晨摇玉佩趋温室，莫入竹溪疑洞天。
烟销雨过看不足，晴翠鲜飙逗深谷。独谣一曲泛流霞，
闲对千竿连净绿。萦回疏凿随胜地，石磴岩扉光景异。
虚斋寂寂清籁吟，幽涧纷纷杂英坠。家承麟趾贵，
剑有龙泉赐，上奉明时事无事。人间方外兴偏多，
能以簪缨狎薜萝。常通内学青莲偈，更奏新声白雪歌。
风入松，云归栋，鸿飞灭处犹目送。蝶舞闲时梦忽成，
兰台有客叙交情，返照中林曳履声。直为君恩催造膝，
东方辨色谒承明。
