虬少而抗节好学，须得禄便隐。宋泰始中，仕至晋平王骠骑记室、当阳令。罢官归家静处，常服鹿皮袷，断谷，饵术及胡麻。齐建元初，豫章王嶷为荆州，教辟虬为别驾，与同郡宗测、新野庾易并遗书礼请之。虬等各修笺答而不应命。
永明三年，刺史庐陵王子卿表虬及同郡宗测、宗尚之、庾易、刘昭五人，请加蒲车束帛之命。诏征为通直郎，不就。竟陵王致书通意，虬答曰：“虬四节卧疾病，三时营灌植，畅馀阴于山泽，托暮情于鱼鸟，甯非唐、虞重恩，周、邵宏施。”
虬精信释氏，衣粗布，礼佛长斋，注法华经，自讲佛义。以江陵西沙洲去人远，乃徙居之。建武二年，诏征国子博士，不就。其冬虬病，正昼有白云徘徊檐户之内，又有香气及磬声。其日卒，年五十八。虬子之遴。
之遴字思贞，八岁能属文。虬曰：“此儿必以文兴吾宗。”常谓诸子曰：“若比之T氏，之遴得吾之文。”由是州里称之。时有沙门僧惠有异识，每诣虬必呼之遴小字曰：“僧伽福德儿。”握手而进之。
年十五，举茂才，明经对策，沈约、任昉见而异之。吏部尚书王瞻尝候任昉，遇之遴在坐，昉谓瞻曰：“此南阳刘之遴，学优未仕，水镜所宜甄擢。”即辟为太学博士。昉曰：“为之美谈，不如面试。”时张稷新除尚书仆射，托昉为让表，昉令之遴代作，操笔立成。昉曰：“荆南秀气，果有异才，后仕必当过仆。”御史中丞乐蔼即之遴之舅，宪台奏弹，皆令之遴草焉。后为荆州中从事，梁简文临荆州，仍迁宣惠记室。之遴笃学明审，博览群籍，时刘显、韦棱并称强记，之遴每与讨论，咸不过也。
累迁中书侍郎，后除南郡太守。武帝谓曰：“卿母年德并高，故令卿衣锦还乡，尽荣养之理。”转西中郎湘东王绎长史，太守如故。初，之遴在荆府，常寄居南郡，忽梦前太守袁彖谓曰：“卿后当为折臂太守，即居此中。”之遴后牛奔堕车折臂，右手偏直，不复得屈伸，书则以手就笔，叹曰：“岂黥而王乎？”周舍尝戏之曰：“虽复并坐可横，政恐陋巷无枕。”后连相两王，再为此郡，历秘书监。
出为郢州行事，之遴意不愿出，固辞曰：“去岁命绝离巽，不敢东下；今年所忌又在西方。”武帝手敕曰：“朕闻妻子具，孝衰于亲，爵禄具，忠衰于君。卿既内足，理忘奉公之节。”遂为有司奏免。后为都官尚书、太常卿。
之遴好古爱奇，在荆州聚古器数十百种，有一器似瓯可容一斛，上有金错字，时人无能知者。又献古器四种于东宫。其第一种，镂铜鸱夷榼二枚，两耳有银镂，铭云：“建平二年造。”其第二种，金银错镂古鐏二枚，有篆铭云：“秦容成侯适楚之岁造。”其第三种，外国澡灌一口，有铭云：“元封二年，龟兹国献。”其第四种，古制澡盘一枚，铭云：“初平二年造。”
时鄱阳嗣王范得班固所撰汉书真本献东宫，皇太子令之遴
与张缵、到溉、陆襄等参校异同，之遴录其异状数十事，其大略云：“案古本汉书称永平十六年五月二十一日己酉，郎班固上，而今本无上书年月日子。又案古本叙传号为中篇，今本称为叙传，又今本叙传载班彪事行，而古本云“彪自有传”。又今本纪及表志列传不相合为次，而古本相合为次，总成三十八卷。又今本外戚在西域后，古本外戚次帝纪下。又今本高五子、文三王、景十三王、孝武六子、宣元六王杂在诸传帙中，古本诸王悉次外戚下，在陈项传上。又今本韩彭英卢吴述云：“信惟饿隶，布实黥徒，越亦狗盗，芮尹江湖。云起龙骧，化为侯王。”古本述云：“淮阴毅毅，仗剑周章，邦之杰子，实惟彭、英。化为侯王，云起龙骧。”又古本第三十七卷解音释义，以助雅诂；而今本无此卷也。”
之遴好属文，多学古体，与河东裴子野、沛国刘显恒共讨论古籍，因为交好。时周易、尚书、礼记、毛诗并有武帝义疏，唯左氏传尚阙，之遴乃着春秋大意十科，左氏十科，三传同异十科。合三十事上之。帝大悦，诏答曰：“省所撰春秋义，比事论书，辞微旨远，编年之教，言阐义繁。丘明传洙、泗之风，公羊宗西河之学，铎椒之解不追，瑕丘之说无取。继踵胡母，仲舒云盛，因循谷梁，千秋最笃。张苍之传左氏，贾谊之袭荀卿，源本分镳，指归殊致，详略纷然，其来旧矣。昔在弱年，久经研味，一从遗置，迄将五纪。兼晚秋晷促，机事罕暇，夜分求衣，未遑披括。须待夏景，试欲推寻，若温故可求，别酬所问也。”
始武帝于齐代为荆府谘议，时之遴父虬隐在百里洲，早相知闻。帝偶匮乏，遣就虬换谷百斛。之遴时在父侧，曰：“萧谘议踬士，云何能得舂，愿与其米。”虬从之。及帝即位常怀之。侯景初以萧正德为帝，之遴时落景所，将使授玺绂。之遴
预知，仍剃发披法服乃免。先是，平昌伏挺出家，之遴为诗嘲之曰：“传闻伏不斗，化为支道林。”及之遴遇乱，遂披染服，时人笑之。
寻避难还乡，湘东王绎尝嫉其才学，闻其西上至夏口，乃密送药杀之。不欲使人知，乃自制志铭，厚其赙赠。前后文集五十卷。
子三达字三善，数岁能清言及属文。州将湘东王绎闻之，盛集宾客，召而试之。说义属诗，皆有理致。年十二，听江陵令贺革讲礼还，仍覆述，不遗一句。年十八卒。之遴深怀悼恨，乃题墓曰“梁妙士”以旌之。之遴弟之亨。
之亨字嘉会，年四岁，出后叔父嵩。及长好学，美风姿，善占对。武帝之临荆州，唯与虬谈。虬见之遴之亨，帝曰
：“之遴必以文章显,之亨当以功名着。”后州举秀才，除大学博士，仍代兄之遴为中书通事舍人。累迁步兵校尉，湘东王绎谘议参军，敕赐金策并赐诗焉。
大通六年，出师南郑，诏湘东王节度诸军。之亨以司农卿为行台承制，途出本州北界，总督F军，杖节而西，楼船戈甲甚盛。老小缘岸观曰：“是前举秀才者。”乡部伟之。是行也，大致克复，军士有功皆录，唯之亨为兰钦所讼，执政因而陷之，故封赏不行，但复本位而已。久之，帝读陈汤传，恨其立功绝域而为文吏所抵。宦者张僧胤曰：“外闻论者，窃谓刘之亨似之。”帝感悟，乃封为临江子。固辞不拜。