黄杨是灌木或小乔木,高1-6米;枝圆柱形,有纵棱,灰白色;小枝四棱形,全面被短柔毛或外方相对两侧面无毛,节间长0.5-2厘米。叶革质,阔椭圆形、阔倒卵形、卵状椭圆形或长圆形,大多数长1.5-3.5厘米,宽0.8-2厘米,先端圆或钝,常有小凹口,不尖锐,基部圆或急尖或楔形,叶面光亮,中脉凸出,下半段常有微细毛,侧脉明显,叶背中脉平坦或稍凸出,中脉上常密被白色短线状钟乳体,全无侧脉,叶柄长1-2毫米,上面被毛。
花序腋生,头状,花密集,花序轴长3-4毫米,被毛,苞片阔卵形.长2-2.5毫米,背部多少有毛;雄花:约10朵,无花梗,外萼片卵状椭圆形,内萼片近圆形,长2.5-3毫米,无毛,雄蕊连花药长4毫米,不育雌蕊有棒状柄,末端膨大,高2毫米左右(高度约为萼片长度的2/3或和萼片几等长);雌花:萼片长3毫米,子房较花柱稍长,无毛,花柱粗扁,柱头倒心形,下延达花柱中部。