寻除安西将军、秦州刺史。彝务尚典式，考访故事。及临陇右，弥加讨习，于是出入直卫，方伯威仪，赫然可观。羌夏畏伏，惮其威整，一方肃静，号为良牧。其年冬，太极初就，彝与郭祚等俱以勤旧被征。及还州，进号抚军将军，彝表解州任，诏不许。彝敷政陇右，多所制立，宣布新风，革其旧俗，民庶爱仰之。为国造佛寺名曰兴皇，诸有罪咎者，随其轻重，谪为土木之功，无复鞭杖之罚。时陈留公主寡居，彝意愿尚主，主亦许之。仆射高肇亦望尚主，主意不可。肇怒，谮彝于世宗，称彝擅立刑法，劳役百姓。诏遣直后万贰兴驰驿检察。贰兴，肇所亲爱，必欲致彝深罪。彝清身奉法，求其愆过，遂无所得。见代还洛，犹停废数年，因得偏风，手脚不便。然志性不移，善自将摄，稍能朝拜。久之，除光禄大夫，加金章紫绶。
彝爱好知己，轻忽下流，非其意者，视之蔑尔。虽疹疾家庭，而志气弥高。上表曰：「臣闻元天高朗，尚假列星以助明；洞庭渊湛，犹藉众流以增大。莫不以孤照不诣其幽，独深未尽其广。先圣识其若此，必取物以自诫。故尧称则天，设谤木以晓未明；舜称尽善，悬谏鼓以规政阙。虞人献箴规之旨，盘盂着举动之铭，庶几见善而思齐，闻恶以自改。眷眷于悔往之衢，孜孜于不逮之路，用能声高百王，卓绝中古，经十氏而不渝，历二千以孤郁。伏惟太祖拨乱，奕代重光。世祖以不世之才，开荡函夏；显祖以温明之德，润沃九区。高祖大圣临朝，经营云始，未明求衣，日昃忘食，开翦荆棘，徙御神县，更新风轨，冠带朝流。海东杂种之渠，衡南异服之帅，沙西毡头之戎，漠北辫发之虏，重译纳贡，请吏称籓。积德懋于夏殷，富仁盛于周汉，泽教既周，武功亦匝。犹且发明诏，思求直士，信是苍生荐言之秋，祝史陈辞之日。况臣家自奉国八十余年，纡金锵玉，及臣四世。过以小才，藉廕出仕，学惭专门，武阙方略，早荷先帝眷仗之恩，末蒙陛下不遗之施。侍则出入两都，官历纳言常伯，忝牧秦籓，号兼安抚。实思碎首膏原，仰酬二朝之惠；轻尘碎石，远增嵩岱之高。辄私访旧书，窃观图史，其帝皇兴起之元，配天隆家之业，修造益民之奇，龙麟云凤之瑞，卑官爱物之仁，释网改祝之泽，前歌后舞之应，囹圄寂寥之美，可为辉风景行者，辄谨编丹青，以标睿范。至如太康好田，遇穷后迫祸；武乙逸禽，罹震雷暴酷；夏桀淫乱，南巢有非命之诛；殷纣昏酣，牧野有倒戈之陈；周厉逐兽，灭不旋踵；幽王遇惑，死亦相寻；暨于汉成失御，亡新篡夺；桓灵不纲，魏武迁鼎；晋惠暗弱，骨肉相屠。
终使聪曜鸮视并州，勒虎狼据燕赵——如此之辈，罔不毕载。起元庖牺，终于晋末，凡十六代，百二十八帝，历三千二百七十年，杂事五百八十九，合成五卷，名曰《历帝图》，亦谤木、谏鼓、虞人、盘盂之类。脱蒙置御坐之侧，时复披览，冀或起予左右，上补未萌。伏愿陛下远惟宗庙之忧，近存黎民之念，取其贤君，弃其恶主，则微臣虽沉沦地下，无异乘云登天矣。」世宗善之。
彝又表曰：「窃惟皇王统天，必以穷幽为美；尽理作圣，亦假广采成明。故询于刍荛，着之周什，舆人献箴，流于夏典。不然，则美刺无以得彰，善恶有时不达。逮于两汉、魏、晋，虽道有隆污，而被绣传檄，未始阙也。及惠帝失御，中夏崩离，刘符专据秦西，燕赵独制关左，姚夏继起，五凉竞立，致使九服摇摇，民无定主，礼仪典制，此焉堙灭。暨大魏应历，拨乱登皇，翦彼鲸鲵，龛靖神县，数纪之间，天下宁一，传辉七帝，积圣如神。高祖迁鼎成周，永兹八百，偃武修文，宪章斯改，实所谓加五帝、登三王，民无德而名焉。犹且虑独见之不明，欲广访于得失，乃命四使，观察风谣。臣时忝常伯，充一使之列，遂得仗节挥金，宣恩东夏，周历于齐鲁之间，遍驰于梁宋之域。询采诗颂，研检狱情，实庶片言之不遗，美刺之俱显。而才轻任重，多不遂心。所采之诗，并始申目，而值銮舆南讨，问罪宛邓，臣复忝行军，枢机是务。及辇驾之返，膳御未和，续以大讳奄臻，四海崩慕，遂尔推迁，不及闻彻。未几，改牧秦蕃，违离阙下，继以谴疾相缠，宁丁八岁。常恐所采之诗永沦丘壑，是臣夙夜所怀，以为深忧者也。陛下垂日月之明，行云雨之施；察臣往罪之滥，矜臣贫病之切。既蒙崇以禄养，复得拜扫丘坟，明目友朋，无所负愧。
且臣一二年来，所患不剧，寻省本书，粗有仿佛。凡有七卷，今写上呈，伏愿昭览，敕付有司。使魏代所采之诗，不堙于丘井，臣之愿也。」肃宗初，侍中崔光表曰：「彝及李韶，朝列之中唯此二人出身官次本在臣右，器能干世，又并为多，近来参差，便成替后。计其阶途，虽应迁陟，然恐班秩犹未赐等。昔卫之公叔，引下同举；晋之士丐，推长伯游。古人所高，当时见许。敢缘斯义，乞降臣位一阶，授彼泛级，齐行圣庭，帖穆选叙。」诏加征西将军、冀州大中正。虽年向六十，加之风疾，而自强人事，孜孜无怠。公私法集，衣冠从事；延请道俗，修营斋讲；好善钦贤，爱奖人物。南北新旧，莫不多之。大起第宅，徽号华侈，颇侮其疏宗旧戚，不甚存纪，时有怨憾焉。荣宦之间，未能止足。屡表在秦州预有开援汉中之勋，希加赏报，积年不已，朝廷患之。
第二子仲瑀上封事，求铨别选格，排抑武人，不使预在清品。由是众口喧喧，谤讟盈路，立榜大巷，克期会集，屠害其家。彝殊无畏避之意，父子安然。神龟二年二月，羽林虎贲几将千人，相率至尚书省诟骂，求其长子尚书郎始均，不获，以瓦石击打公门。上下畏惧，莫敢讨抑。遂便持火，虏掠道中薪蒿，以杖石为兵器，直造其第，曳彝堂下，捶辱极意，唱呼嗷嗷，焚其屋宇。始均、仲瑀当时逾北垣而走。始均回救其父，拜伏群小，以请父命。羽林等就加殴击，生投之于烟火之中。及得尸骸，不复可识，唯以髻中小钗为验。仲瑀伤重走免。彝仅有余命，沙门寺与其比邻，舆致于寺。远近闻见，莫不惋骇。
彝临终，口占左右上启曰：「臣自奉国及孙六世，尸禄素餐，负恩唯腼，徒思竭智尽诚，终然靡效。臣第二息仲瑀所上之事，益治实多，既曰有益，宁容默尔。通呈有日，未简神听，岂图众忿，乃至于此。臣不能祸防未萌，虑绝殃兆，致令军众横嚣，攻焚臣宅。息始均、仲瑀等叩请流血，乞代臣死，始均即陷涂炭，仲瑀经宿方苏。臣年已六十，宿被荣遇，垂暮之秋，忽见此苦，顾瞻灾酷，古今无比。臣伤至重，残气假延，望景顾时，推漏就尽，顷刻待终，臣之命也，知复何言？若所上之书，少为益国，臣便是生以理全，死与义合，不负二帝于地下，臣无余恨矣！一归泉壤，长离紫庭，恋仰天颜，诚痛无已。不胜眷眷，力喘奉辞，伏愿二圣加御珍膳，覆露黔首，寿保南岳，德与日升。臣夙被刍豢，先后衔恩，欲报之期，昊天罔极，亡魂有知，不忘结草。」彝遂卒，时年五十九。官为收掩羽林凶强者八人斩之，不能穷诛群竖，即为大赦以安众心，有识者知国纪之将坠矣。丧还所焚宅，与始均东西分敛于小屋。仲瑀遂以创重避居荥阳，至五月，创得渐瘳，始奔父丧，诏赐布帛千匹。灵太后以其累朝大臣，特垂矜恻，数月犹追言泣下，谓诸侍臣曰：「吾为张彝饮食不御，乃至首发微有亏落。悲痛之苦，以至于此。」初，彝曾祖幸，所招引河东民为州裁千余家，后相依合，至于罢入冀州，积三十年，析别有数万户。故高祖比校天下民户，最为大州。彝为黄门，每侍坐以为言，高祖谓之曰：「终当以卿为刺史，酬先世诚效。」彝追高祖往旨，累乞本州，朝议未许。彝亡后，灵太后云：「彝屡乞冀州，吾欲用之，有人违我此意。若从其请，或不至是，悔之无及。」乃赠使持节、卫将军、冀州刺史，谥文侯。
始均，字子衡，端洁好学，有文才。司徒行参军，迁着作佐郎。世宗以彝先朝勋旧，不幸疹废，特除始均长兼左民郎中，迁员外常侍，仍领郎。始均才干，有美于父，改陈寿《魏志》为编年之体，广益异闻，为三十卷。又着《冠带录》及诸赋数十篇，今并亡失。初，大乘贼起于冀瀛之间，遣都督元遥讨平之，多所杀戮，积尸数万。始均以郎中为行台，忿军士重以首级为功，乃令检集人首数千，一时焚爇，至于灰烬，用息侥幸，见者莫不伤心。及始均之死也，始末在于烟炭之间，有焦烂之痛，论者或亦推咎焉。赠乐陵太守，谥曰孝。
子暠，袭祖爵。武定中，开府主簿。齐受禅，爵例降。
暠弟晏之，武定中，仪同开府中兵参军。
仲瑀，司空祭酒、给事中。
子台，仪同开府参军事。
仲瑀弟珉，着作佐郎。