這工具叫Nightshade

比較好奇如果餵ai吃一堆毒圖，會不會令ai本身的算圖功能也壞掉

他專門毒擊的主要是那種可以用文字下指令來產圖的繪圖AI，例如DALL-E，Midjourney，Stable Diffusion

挖酷

先說我本人(還)不是AI以及ML領域的專業人士，但看起來Nightshade的概念是擾亂AI對吃進去的圖的理解
同一個團隊也有另一個叫Glaze的工具，可以擾亂AI定義畫家的畫風

https://arxiv.org/...
這篇是這個文章提到的芝加哥大學的團隊發表的論文，裡面基本上闡述了Nightshade的原理以及應用效果

lamb7645: 看完之後基本上我的理解是，他並不是毒掉算圖的效果(繼續餵養更多的“乾淨”圖片可以稀釋掉毒性)，而是干擾模型對圖片本身的理解，進而讓模型難以藉由下指令算出有效的圖
某種程度上的確可以說是破壞了模型的繪圖能力，但其實理論上那個算圖的能力還是在的，只是營造出了類似garbage in garbage out的效果
看起來是這樣啦

看起來像是在原本的圖上蓋其他的特徵

tiger5706: 工具本身不會讓圖有任何能見的變化就是了

這東西好酷!發明的人該得到諾貝爾和平獎

不就木馬

camel7894: 木馬是要在攻擊目標上運行。這個不太一樣，我我的理解是他是針對模型的訓練進行干擾，對模型的運作本身應該是沒有直接攻擊的🤔

根據那篇論文，Noghtshade其中一個優點就是他概念上不需要對不同的GAI模型有任何運作上的理解

看下來比起毒死，比較像毒傻