繪師如何因應新的x服務條款? 由AI模型工程師教你防禦手段 x (Twitter)今天更新了服務條款，按照內容來看但從 11 月 15 日開始，你上傳了圖片就是預設同意給X訓練Grok模型(是否同意的Switch應該會不見，直接就是預設你同意，請見附圖)，身為音樂創作者+模型工程師我，其實很樂意見到AI越來越聰明，但是這樣強迫上車的感覺有點令人反感，那麼創作者該如何因應？ 其實繪圖領域或是音樂領域，對AI來說就是一個矩陣。電腦看圖或聽音樂，跟人類看圖是不一樣的，他看到的是一個超大矩陣，並無法理解完整內容。以圖片舉例，電腦會再經過一些處理(Convolution，padding, pooling等等)使他能夠達到類似人類的全局/遠程理解能力，但他的本質仍然是逐個Pixel讀取。 基於這點，我們只要在Pixel層級加入雜訊，就可以混淆模型的判斷，讓AI醬把貓熊看成長臂猿(見附圖) 那藝術家/創作者該怎麼有效加這些雜訊呢？芝加哥大學似乎對於這件事情非常重視，他們與藝術家合作，連續開發兩套加雜訊的模型：glaze以及nightshade，並且都已經封裝成APP型態，無論Win或是Mac都很方便使用，請直接到下方的連結下載官方安裝檔使用即可。 glaze(推薦)：主要用於防禦自己的作品風格被抄襲，只要加入一點點雜訊，可以在肉眼看不到變化的情況下影響模型，無論圖片縮放、轉檔，甚至預先跑過一次模型去轉換圖片風格，雜訊仍然可以存在並且有效擾亂模型風格(實驗結果可以自行在他們網頁下載論文閱讀，這邊就不貼論文了) nightshade: 主要是攻擊手段，因為我們訓練模型拿到新資料會做Fine-tune，也就是只更新比較外層的網路，利用這點nightshade可以混淆CLAP模型(一種文字-圖片轉換的模型)，讓他以為你上傳的是貓圖片是狗，藉此污染CLAP模型，但缺點是圖片會大量被破壞。 綜合上面的結論，我會推薦藝術家們優先考慮glaze避免自己的繪畫風格被隨便拿去使用，在論文中這也是經過藝術家審核的模型，下載點在最下面。 喔對了，附帶一提，上面兩個加雜訊的工具，其實也是AI，所以是真正的以夷制夷，用AI打AI。 如果覺得這篇文章對你有幫助，請幫我轉貼給需要的朋友。另外身為開發者兼創作者，我始終希望AI應該是創作者的輔助小幫手而不是敵人，我想聽聽創作者對於AI的想法，歡迎大家在下面留言讓我知道你的想法與看法 X服務條款中文版 ： xitter.cf/zh-tw/tos glaze下載點(推薦)： glaze.cs.uchicago.edu/downlo… nightshade下載點： nightshade.cs.uchicago.edu/d… (下載頁面捲到頁面最下方有下載連結，請看清楚自己作業系統以及架構再下載喔) – at Taipei City, Taiwan