資源簡介

(共19張PPT)
第11課決策樹
----以選西瓜為例構建決策樹
決策樹算法是一種基于樹形結構的決策分析方法，其原理是通過一系列的判斷和決策過程，將數據集進行分類或回歸預測。具體來說，決策樹算法通過遞歸地將數據集劃分為更小的子集，并在每個子集上應用決策規則，從而構建出一個樹形結構。決策樹算法是一種基于樹形結構的決策分析方法，通過遞歸地將數據集劃分為更小的子集，并在每個子集上應用決策規則，從而構建出一個樹形結構。其原理在于選擇合適的特征進行劃分，并構建出準確可靠的決策樹結構。
決策樹算法的原理
決策樹算法用途
分類問題：決策樹算法常用于分類問題，如垃圾郵件識別、疾病診斷等。通過構建決策樹模型，可以根據輸入的特征將數據劃分為不同的類別。
回歸預測：除了分類問題，決策樹算法也可以用于回歸預測，如預測房價、股票價格等。通過構建決策樹模型，可以根據輸入的特征預測連續的輸出值。
決策樹算法用途
3.特征選擇：決策樹算法在特征選擇方面也有很好的應用。通過計算特征的信息增益、增益率或基尼系數等指標，可以選擇出對數據集分類或回歸最有影響的特征。
4.數據挖掘：決策樹算法可以用于數據挖掘中的關聯規則挖掘，如購物籃分析等。通過構建決策樹模型，可以發現不同商品之間的關聯關系，為商業決策提供支持。
人工選瓜
根蒂
紋理
觸感
新西瓜
輸入
規律
結果
推測
輸入
模型
結果
預測
知識
學習
數據
訓練
人工選瓜與機器選瓜
新西瓜
收集數據
1
分析數據
2
訓練算法
3
使用算法
4
軟粘
清晰
硬挺
硬滑
模糊
硬挺
硬滑
模糊
蜷縮
軟粘
稍糊
蜷縮
軟粘
模糊
蜷縮
硬滑
清晰
蜷縮
軟粘
清晰
蜷縮
軟粘
清晰
蜷縮
硬滑
稍糊
蜷縮
硬滑
清晰
蜷縮
1
2
3
4
5
6
7
8
9
10
編號 1 2 3 4 5 6 7 8 9 10
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 硬挺 硬挺 蜷縮 蜷縮 蜷縮
紋理 清晰 清晰 清晰 清晰 稍糊 清晰 模糊 模糊 稍糊 模糊
觸感 硬滑 硬滑 軟粘 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 軟粘
好瓜 是 是 是 是 是 否 否 否 否 否
好瓜
壞瓜
編號 1 2 3 4 5 6 7 8 9 10
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 硬挺 硬挺 蜷縮 蜷縮 蜷縮
紋理 清晰 清晰 清晰 清晰 稍糊 清晰 模糊 模糊 稍糊 模糊
觸感 硬滑 硬滑 軟粘 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 軟粘
好瓜 是 是 是 是 是 否 否 否 否 否
屬性 值 好瓜 壞瓜
根蒂 蜷縮 5 3
硬挺 0 2
紋理 清晰 4 1
稍糊 1 1
模糊 0 3
觸感 硬滑 3 2
軟粘 2 3
純度
分類結果的差異程度
稍糊的純度<清晰的純度<模糊的純度
屬性 值 好瓜 壞瓜 信息熵 信息增益
根蒂 蜷縮 5 3 0.95 0.24
硬挺 0 2 0
紋理 清晰 4 1 0.72 0.44
稍糊 1 1 1
模糊 0 3 0
觸感 硬滑 3 2 0.97 0.03
軟粘 2 3 0.97
利用程序計算各屬性的信息熵和信息增益
編號 1 2 3 4 5 6 7 8 9 10
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 硬挺 硬挺 蜷縮 蜷縮 蜷縮
紋理 清晰 清晰 清晰 清晰 稍糊 清晰 模糊 模糊 稍糊 模糊
觸感 硬滑 硬滑 軟粘 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 軟粘
好瓜 是 是 是 是 是 否 否 否 否 否
編號 1 2 3 4 5 6 7 8 9 10
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 硬挺 硬挺 蜷縮 蜷縮 蜷縮
紋理 清晰 清晰 清晰 清晰 稍糊 清晰 模糊 模糊 稍糊 模糊
觸感 硬滑 硬滑 軟粘 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 軟粘
好瓜 是 是 是 是 是 否 否 否 否 否
紋理
7,8,10
5,9
1,2,3,4,6
模糊
稍糊
清晰
1,2,3,4,6
編號 1 2 3 4 6
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 硬挺
紋理 清晰 清晰 清晰 清晰 清晰
觸感 硬滑 硬滑 軟粘 軟粘 軟粘
好瓜 是 是 是 是 否
編號 1 2 3 4 5 6 7 8 9 10
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 硬挺 硬挺 蜷縮 蜷縮 蜷縮
紋理 清晰 清晰 清晰 清晰 稍糊 清晰 模糊 模糊 稍糊 模糊
觸感 硬滑 硬滑 軟粘 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 軟粘
好瓜 是 是 是 是 是 否 否 否 否 否
紋理
7,8,10
5,9
1,2,3,4,6
模糊
稍糊
清晰
1,2,3,4,6
編號 5 9
根蒂 蜷縮 蜷縮
紋理 稍糊 稍糊
觸感 硬滑 軟粘
好瓜 是 否
任務一
根據計算的信息增益，手工繪制決策樹
紋理
模糊
稍糊
清晰
作業展示
任務二
依據決策樹，將判斷西瓜好壞的程序補充完整
a=input("請輸入西瓜的紋理{清晰，稍糊，模糊}：")
b=input("請輸入西瓜的根蒂{蜷縮，硬挺}：")
c=input("請輸入西瓜的觸感{硬滑，軟粘}：")
if a=="模糊":
print("壞瓜")
elif a=="____":
if c=="_____":
print(____)
elif c=="_____":
print(____)
elif a=="____":
if b=="_____":
print(____)
elif b=="_____":
print(____)
運行程序，判斷一個新買的西瓜是否是好瓜

1、對真實西瓜的判定，決策樹算法的判斷結果一定準確嗎？
2、如何提高決策樹算法的結果準確性？
思考與討論
不一定，因為特征有限，樣本有限
增加特征、樣本的數量
編號 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
色澤 青綠 烏黑 烏黑 青綠 淺白 青綠 烏黑 烏黑 烏黑 青綠 淺白 淺白 青綠 淺白 烏黑 淺白 青綠
根蒂 蜷縮 蜷縮 蜷縮 蜷縮 蜷縮 稍蜷 稍蜷 稍蜷 稍蜷 硬挺 硬挺 蜷縮 稍蜷 稍蜷 稍蜷 蜷縮 蜷縮
敲聲 濁響 沉悶 濁響 沉悶 濁響 濁響 濁響 濁響 沉悶 清脆 清脆 濁響 濁響 沉悶 濁響 濁響 沉悶
紋理 清晰 清晰 清晰 清晰 清晰 清晰 稍糊 清晰 稍糊 清晰 模糊 模糊 稍糊 稍糊 清晰 模糊 稍糊
臍部 凹陷 凹陷 凹陷 凹陷 凹陷 稍凹 稍凹 稍凹 稍凹 平坦 平坦 平坦 凹陷 凹陷 稍凹 平坦 稍凹
觸感 硬滑 硬滑 硬滑 硬滑 硬滑 軟粘 軟粘 硬滑 硬滑 軟粘 硬滑 軟粘 硬滑 硬滑 軟粘 硬滑 硬滑
好瓜 是 是 是 是 是 是 是 是 否 否 否 否 否 否 否 否 否
拓展與延伸
特征屬性
樣本數量
3個
6個
10個
17個
請利用提供的程序使用1-15號西瓜為數據集生成決策樹，并用16號，17號西瓜驗證其準確性
概念及特征
構建決策樹的一般流程
以選西瓜為例構建決策樹
課堂小結
決策樹
使用決策樹實現智能選瓜
收集數據
分析數據
訓練算法
使用算法

展開更多......

收起↑