唐蕃時期，古玉就有歷史記載。

明朝洪武四年（1371年），帕竹政權(quán)的釋迦堅贊當政后，在此設(shè)宗，宗址設(shè)在科麥（今塔巴寺附近）。

明崇禎十五年（1642年），甘丹頗章地方政權(quán)建立后，西藏地方政府在此設(shè)桑昂曲宗（宗址未變）。

清康熙五十九年（1720年），因此地距拉薩較遠，交通不便，劃歸駐昌都的帕巴拉呼圖克圖管理。

雍正年間，桑昂曲宗重歸西藏地方政府管轄，并設(shè)有三個“協(xié)伍區(qū)”和四個直屬“得卡”，古玉為桑昂曲宗直接管轄的古玉三級直屬得卡。

雍正三年（1725年），雍正皇帝將此地交給七世達賴喇嘛作為香火地。

喝廈時期，古玉為桑昂曲宗管轄的古玉三級直屬得卡，后改劃昌都“薩翁”領(lǐng)導(dǎo)管轄。

1951年9月，成立桑昂曲宗解委會，下設(shè)察瓦龍、竹瓦根、林嘎、察隅4個分會，古玉屬竹瓦根分會的一部分。

1962年，成立古玉區(qū)（從竹瓦根區(qū)劃出）。

1972年，改公社。

1978年，復(fù)置區(qū)。

1987年，改鄉(xiāng)。