贺唯一,又名太平,字允中,鄠人,贺胜之子。其父被丞相铁木迭儿陷害而死,当时年届弱冠,尚在读书。也孙铁木儿即帝位,为贺胜昭雪洗冤,准贺唯一袭其父原职,任虎贲亲军都指挥使,调为陕西汉中道廉访副使。文宗图帖睦尔复皇帝位,将贺唯一召回朝任工部尚书,负责修建奎章阁,完工后,调任上都留守同知。
元顺帝即位后,贺唯一改任枢密副使,迁同知枢密院事,后升任御史中丞。当时,中书省参议佛家闾为官不正,御史上章参劾,中书丞相为庇护佛家闾,将御史奏章扣压,使此事不能查办,贺唯一愤愤不平,毅然辞职,回家闲居。
顺帝诏命起用贺唯一中书省任右丞,这时佛家闾已被罢官,贺唯一方同意任职,上任后立即向元顺帝提出几点改革措施,他提议:一些地方守令严重失职,应当另选干练之人替代;同时,派人前往各地检查地方官吏的政绩和作风。对政绩优异的予以晋级和奖励。他还提出纂修辽、金、宋三个王朝的国史。元顺帝同意他的建议,并命他担任修纂总裁,在他主持下,三部史书很快编好。他被提升为中书平章政事,次年,改任宣徽院使,专管宫廷膳食之事,六年,拜为御史大夫,按元朝廷的制度,此职应由蒙古贵族成员担任,但元顺帝为了削弱权臣的势力,特诏贺唯一改姓蒙古姓氏,易名“太平”。
贺唯一复任中书平章政事,元顺帝为了削弱反对势力,利用中书右丞相别儿怯不花对脱脱之父马扎台儿诬陷之机,将脱脱父子同时削爵流放。中书左丞相朵儿只便向元顺帝建议,提升贺唯一担任中书丞相,与他共同理政,元顺帝于是提升朵儿只任右丞相,贺唯一任左丞相。