温大雅字彦弘,并州祁县人。父亲温君攸,是北齐文林馆学士,入隋后任泗州司马,因见隋朝政令不行,请病假告归。大雅性情极孝,与其弟彦博、大有都很知名。薛道衡见了他们,感叹地说:“兄弟三人都是卿相之才呀。”初任东宫学士、长安县尉,因父亲去世解职,时逢天下大乱,便不再出任官职。
高祖镇守太原时,以厚礼相待。起兵后,授职为大将军府记室参军,主掌文书。高祖受禅后,大雅与窦威、陈叔达一道议定礼仪,后迁任黄门侍郎,当时彦博也任职为中书侍郎,对居近密。高祖曾从容对他说:“我起兵于晋阳,就是因为您一家的缘故。”不久升任工部侍郎、陕东道大行台尚书。隐太子图谋作乱之时,秦王上表派温大雅镇守洛阳以待变化,大雅多次陈献密策,多受秦王嘉赏。
秦王即位后,转任礼部尚书,封为黎国公。大雅改葬其祖父,卜筮者占其墓地说“:对弟弟吉利,而不利于您,怎么办?”
大雅说“:如真像您说的那样,我将含笑入地了。”一年后去世,谥号为孝。永徽五年(654),赠予尚书右仆射。