冯唐本是赵人,随父迁至代地。汉朝建立后,又迁居安陵。以仁孝闻名,官中郎署长。一次,汉文帝(公元前179—前157年在位)乘辇经过中郎署,召冯唐问以前赵将廉颇、李牧的情况。冯唐祖父与李牧关系很好,冯唐因而了解李牧和廉颇的情况。应对之后,文帝为没有李牧、廉颇这样的大将而深感遗憾。其时,冯唐听说云中郡(治今内蒙古托克托东北)太守魏尚因小错而被下狱,心中不平。所以就回答汉文帝说:“陛下即使得到廉颇、李牧这样的良将,也不能很好地加以任用。”文帝听了很不高兴。过了很大一会,召冯唐责备说:“你为什么当众羞辱我?难道不能避开众人悄悄跟我说吗?你怎么知道我不能任用李牧这样的人呢?”冯唐谢罪说自己不知忌讳,然后进一步说出自己的理由:认为魏尚为云中郡太守守北边,一系列做法和当年的李牧一样,有效地阻止了匈奴的南侵。“敌人一次入侵,魏尚率军反击,斩杀敌兵很多,功劳卓著。仅仅是在向幕府报功时,稍有一点差错,文官们就以法制裁他。有赏不行而有法苛究,臣以为陛下赏太轻,罚太重,法太严。像云中太守魏尚这样的良将,因为向上报功时,多报了斩首六级,陛下就把他治罪,削夺他的爵位,罚他作苦役。由此看来,陛下即使得到了廉颇、李牧这样的人,也不能委以重用。臣实在愚蠢,触犯陛下的忌讳,死罪,死罪!”文帝听了反而很高兴。当天就命令冯唐,持天子节钺,赦免了魏尚,仍让他担任云中郡太守。拜冯唐为车骑都尉。