#地球一瞬
由芝加哥大學教授趙燕斌（Ben Zhao）所帶領的團隊最近研發出一款新AI工具「Nightshade」，能讓創作者在上傳藝術作品前，對作品的畫素加入肉眼不可見的變動，進一步對AI模型的訓練數據「下毒」，最終導致AI產出與指令不符的結果。
經Nightshade調整後的作品，會讓AI模型判斷錯誤，例如將狗的圖像認成貓、帽子的圖認成是蛋糕，且這些錯誤數據還很難從龐大數據集中找出並刪除。
👀全文閱讀：
「對AI下毒，讓它把狗認成貓」防止藝術家作品遭侵權，芝加哥大學團隊推出新解方 | DQ 地球圖輯隊
由芝加哥大學教授趙燕斌（Ben Zhao）所帶領的團隊最近研發出一款新AI工具「Nightshade」，能讓創作者在上傳藝術作品前，對作品的畫素加入肉眼不可見的變動，進一步對AI模型的訓練數據「下毒」，最終導致AI產出與指令不符的結果。
經Nightshade調整後的作品，會讓AI模型判斷錯誤，例如將狗的圖像認成貓、帽子的圖認成是蛋糕，且這些錯誤數據還很難從龐大數據集中找出並刪除。
👀全文閱讀：
「對AI下毒，讓它把狗認成貓」防止藝術家作品遭侵權，芝加哥大學團隊推出新解方 | DQ 地球圖輯隊
比起立法規管，還是這種做法較實際
酷
有點好奇這種技術擴散的話會不會干擾到現有的圖像自動辨識系統（車牌人臉文字之類的）
KILLUA7877: 所以訓練集都要公司自己請人來人工生產，用關鍵字上網去抓本來就很危險 XD