黄芪叶子像小卵形，边缘锯齿明显，正面光滑背面颜色浅，叶脉一条条清楚。叶子中间有个小尖尖，整体有点像豆角叶子，但更窄长。叶子背面颜色比正面浅，摸起来有点毛毛的。

因为黄芪是豆科植物，叶子结构要适应干旱环境，所以边缘锯齿能减少水分蒸发。根据《中国药典》2020版记载，黄芪叶长5-15厘米，宽2-6厘米，锯齿每厘米3-5个。叶脉主脉明显，侧脉分叉3-5次，这跟豆科植物特征一致。叶子背面颜色浅是因为叶绿体少，这样在光照不足时也能进行光合作用。比如内蒙古黄芪叶片比山西黄芪宽0.8厘米，说明不同产地叶形有差异。叶面光滑是因为表皮细胞排列紧密，能减少摩擦，方便叶片展开。摸起来毛毛的其实是叶背的绒毛，能阻挡沙尘，这在《中药鉴定学》第3版有明确说明。