金日磾，字翁叔，原为匈奴休屠王的太子。汉武帝天狩二年(公元前121年)，骠骑将军霍去病奉诏，率万余精骑兵，出陇西奔袭匈奴。经历五个王国，越过焉支山(今甘肃山丹县城东南)千余里，斩杀折兰王、卢侯王，俘虏浑邪王王子及其相国、都尉，斩首八千九百余级，还缴获了休屠王的国之重器-祭天金人。这年夏天，霍去病又率军西过居延(今内蒙额济纳旗东南)，小月氏(今甘肃、青海一带)，攻击到了祁连山，并大有斩获。匈奴单于对浑邪王、休屠王居守西方还被汉军斩杀与俘虏了数万人，非常愤怒，想把他们召回王庭诛杀。浑邪王和休屠王害怕了，便商量向汉朝投降。当他们派使者通报汉朝后，就在霍去病率军前去迎接的路上，休屠王又后悔了。浑邪王杀了反悔的休屠王，并率领其部落降汉，浑邪王被封为列侯。因为金日磾的父亲是因反悔不降而被杀的，所以，金日磾与母亲、弟弟一起都被没入官府，后分到宫廷养马。时年金日磾十四岁。
过了一段时间，汉武帝乘宴游之兴，下诏检阅宫廷御马，后宫侍女嫔妃也站满了宫殿两侧观看。金日磾等数十人牵马从宫殿阶下通过，供皇帝观赏。当其他人牵马从殿前经过时，无不偷窥宫殿两侧的宫女，唯有金日磾经过时，目不斜视。金日磾身高八尺二寸(汉一尺等于今七寸半)，容貌威严，马又养得肥壮，汉武帝很诧异，因而询问他的来历，金日磾把自己的身世如实地告诉了汉武帝，刘彻很是惊奇。当日即对金日磾赐汤沐浴，更换衣冠，并封为御马总监。后来，金日磾又迁升至侍中、驸马都尉、光禄大夫。
金日磾虽然得到皇帝的宠信，但从不恃宠犯事。这让刘彻对他更加宠信和喜爱了，出则让他同乘一辆车，入则让他随侍左