幼遭家难
来济生于江都（今江苏省扬州市），祖籍南阳新野，东汉名将来歙十九世孙。高祖来成，北魏新野县侯，后降梁，迁居广陵，遂以此为家。父亲来护儿，隋朝名将，曾担任左骁卫大将军、左翊卫大将军、光禄大夫、开府仪同三司等职，封荣国公，恩礼隆密，朝臣无比。
隋大业十四年（618年），右屯卫将军宇文化及发动政变，弑杀隋炀帝。来护儿不屈于叛军，被宇文化及杀害。同时遇害的还有来济的大哥来楷（时为散骑郎、朝散大夫），五哥来弘（时为果毅郎将、金紫光禄大夫），六哥来整（时为武贲郎将、右光禄大夫）。 只有来济和哥哥来恒因为太小没有被杀。来济家族遭难后，流离艰险，而笃志好学，有文词，善谈论，尤晓时务。唐朝时举进士。
累官拜相
贞观十七年（643年），唐太宗任命来济为通事舍人。太子李承乾因谋逆被废，太宗命大臣讨论如何处理废太子，无人应答，只有来济说：“陛下上不失作慈父，下得尽天年，即为善矣。”太宗乃废黜李承乾为庶人，但是保下了他的命，并提拔来济为吏部考功员外郎。
贞观十八年（644年），太宗任命来济为太子李治的司议郎，兼崇贤馆直学士，不久改任中书舍人，与令狐德棻等撰《晋书》。
贞观二十三年（649年），太宗驾崩，太子李治继位，是为高宗。
永徽二年（651年），来济任中书侍郎，兼弘文馆学士，监修国史。
永徽四年（653年），来济拜相，被任命为同中书门下三品。
永徽五年（654年），加银青光禄大夫，以修国史之功封南阳县男，赐物七百段。
永徽六年（655年），来济拜中书令、检校吏部尚书。
反对立后
当时，高宗想以武昭仪取代王皇后，他首先赐武昭仪封号宸妃，来济和韩瑗劝谏：“妃子有正常名额，现在另立名号，这是不行的。”
永徽六年（655年），高宗将要立武氏为皇后，来济和宰相韩瑗劝谏说：“王者定立皇后，是为了承嗣宗庙、做天下人的国母，应该选择礼义名家、优雅贤淑的人，以符合国人的愿望，迎和神灵的旨意。所以周文王立姒氏，《关雎》颂扬，恩泽施於百姓，其福就像那样；汉成帝纵欲，以婢女为皇后，国运中途衰微，其祸患就是这样。希望陛下详察。”
然而，高宗不顾来济、韩瑗、褚遂良、长孙无忌的反对，废黜王皇后，立武宸妃为皇后。来济等都不自安；武后上表称来济忠公，请加赏慰，但心中其实厌恶他们。
显庆元年（656年），武后之子李弘被立为皇太子，来济兼任太子宾客，进爵南阳县侯，仍为中书令。
高宗曾经问统治百姓的好办法，来济说：“过去齐桓公出游，遇见老人，给他食物，老人说：‘请送给天下人食物，给他衣服，老人说：‘请送给天下人衣服。’齐桓公说：‘我府库有限。怎能所有的人都给?’老人说：‘春天不妨碍农事，就有粮食；夏天不妨碍养蚕，就有衣服。，由此来说，减省徭役，是统治百姓的好办法。”这时山东役使民夫，每年另外增加几万人，又商议用佣钱来代替雇工，纷乱烦扰，所以来济是针对这些所说的。
显庆二年（657年），来济又兼太子詹事。同年，许敬宗、李义府诬告来济、韩瑗与褚遂良构成朋党，准备谋反。褚遂良贬桂州（今广西桂林市）都督，来济贬台州（今浙江省台州市）刺史，韩瑗贬振州（今海南三亚市）刺史，终身不许回京。
战死庭州
显庆四年（659年），长孙无忌被逼自杀，柳奭（王皇后的舅舅）、韩瑗处死。
显庆五年（660年），来济改任庭州（在西突厥十姓的边界，今新疆昌吉回族自治州）刺史。
龙朔二年（662年），西突厥部落进攻庭州。来济统兵防御，对部下说：“我曾经触犯刑律，蒙恩赦免死罪，现在应当以身赎罪。”
于是来济不穿甲胄，率军出击，力战阵亡。时年五十三，追赠楚州刺史，供给灵车送回家乡。
逸足皆先路，穷郊独向隅。顽童逃广柳，羸马卧平芜。
黄卷嗟谁问，朱弦偶自娱。鹿鸣皆缀士，雌伏竟非夫。
采地荒遗野，爰田失故都。亡羊犹博簺，牧马倦呼卢。
奕世参周禄，承家学鲁儒。功庸留剑舄，铭戒在盘盂。
经济怀良画，行藏识远图。未能鸣楚玉，空欲握隋珠。
定为鱼缘木，曾因兔守株。五车堆缥帙，三径阖绳枢。
适与群英集，将期善价沽。叶龙图夭矫，燕鼠笑胡卢。
赋分知前定，寒心畏厚诬。蹑尘追庆忌，操剑学班输。
文囿陪多士，神州试大巫。对虽希鼓瑟，名亦滥吹竽。
正使猜奔竞，何尝计有无。镏惔虚访觅，王霸竟揶揄。
市义虚焚券，关讥谩弃繻.至言今信矣，微尚亦悲夫。
白雪调歌响，清风乐舞雩。胁肩难黾勉，搔首易嗟吁。
角胜非能者，推贤见射乎。兕觥增恐竦，杯水失锱铢。
粉垛收丹采，金髇隐仆姑。垂櫜羞尽爵，扬觯辱弯弧。
虎拙休言画，龙希莫学屠。转蓬随款段，耘草辟墁垆。
受业乡名郑，藏机谷号愚。质文精等贯，琴筑韵相须。
筑室连中野，诛茅接上腴。苇花纶虎落，松瘿斗栾栌。
静语莺相对，闲眠鹤浪俱。蕊多劳蝶翅，香酷坠蜂须。
芳草迷三岛，澄波似五湖。跃鱼翻藻荇，愁鹭睡葭芦。
暝渚藏鸂鶒，幽屏卧鹧鸪。苦辛随艺殖，甘旨仰樵苏。
笑语空怀橘，穷愁亦据梧。尚能甘半菽，非敢薄生刍。
钓石封苍藓，芳蹊艳绛跗。树兰畦缭绕，穿竹路萦纡。
机杼非桑女，林园异木奴。横竿窥赤鲤，持翳望青鸬。
泮水思芹味，琅琊得稻租。杖轻藜拥肿，衣破芰披敷。
芳意忧鶗鴂，愁声觉蟪蛄。短檐喧语燕，高木堕饥鼯。
事迫离幽墅，贫牵犯畏途。爱憎防杜挚，悲叹似杨朱。
旅食常过卫，羁游欲渡泸。塞歌伤督护，边角思单于。
堡戍标枪槊，关河锁舳舻。威容尊大树，刑法避秋荼。
远目穷千里，归心寄九衢。寝甘诚系滞，浆馈贵睢盱。
怀刺名先远，干时道自孤。齿牙频激发，簦笈尚崎岖。
莲府侯门贵，霜台帝命俞。骥蹄初蹑景，鹏翅欲抟扶。
寓直回骢马，分曹对暝乌。百神歆仿佛，孤竹韵含胡。
凤阙分班立，鹓行竦剑趋。触邪承密勿，持法奉訏谟。
鸣玉锵登降，衡牙响曳娄。祀亲和氏璧，香近博山炉。
瑞景森琼树，轻水莹玉壶。豸冠簪铁柱，螭首对金铺。
内史书千卷，将军画一厨。眼明惊气象，心死伏规模。
岂意观文物，保劳琢碔砆.草肥牧騕褭，苔涩淬昆吾。
乡思巢枝鸟，年华过隙驹。衔恩空抱影，酬德未捐躯。
时辈推良友，家声继令图。致身伤短翮，骧首顾疲驽。
班马方齐骛，陈雷亦并驱。昔皆言尔志，今亦畏吾徒。
有气干牛斗，无人辩辘轳。客来斟绿蚁，妻试踏青蚨。
积毁方销骨，微瑕惧掩瑜。蛇予犹转战，鱼服自囚拘。
欲就欺人事，何能逭鬼诛。是非迷觉梦，行役议秦吴。
凛冽风埃惨，萧条草木枯。低徊伤志气，蒙犯变肌肤。
旅雁唯闻叫，饥鹰不待呼。梦梭抛促织，心茧学蜘蛛。
宁复机难料，庸非信未孚。激扬衔箭虎，疑惧听冰狐。
处己将营窟，论心若合符。浪言辉棣萼，何所托葭莩。
乔木能求友，危巢莫吓雏。风华飘领袖，诗礼拜衾繻.
欹枕情何苦，同舟道岂殊。放怀亲蕙芷，收迹异桑榆。
赠远聊攀柳，栽书欲截蒲。瞻风无限泪，回首更踟蹰。
