大黃是一種多年生草本植物，屬於蓼科，具有以下特徵：
根粗壯，內部多為黃色，根狀莖頂端常殘存有棕褐色膜質托葉鞘。
莖直立，中空，高度可達2米，基生葉成密集或稀疏蓮座狀，莖生葉互生，葉片多寬大，全緣、皺波或不同深度的分裂。
花小，白綠色或紫紅色，通常排列成密或稀疏的圓錐花序或稀為穗狀及圓頭狀，花在枝上簇生，花梗細弱絲狀。
瘦果三棱狀，種子具豐富胚乳，子葉平坦。
大黃的入藥部位為其根莖及根，呈類圓柱形、圓錐形、卵圓形或不規則塊狀，外表皮黃棕色或紅棕色，質堅實，有時可見類白色網狀紋理，斷面淡紅棕色或黃棕色，顯顆粒性。