假漫畫,真簽名:ChatGPT 冒用《紐約客》漫畫家署名事件

ChatGPT 在假《紐約客》漫畫上簽下真漫畫家的名字:事件翻譯、法律爭點與 HN 網友反應整理,附互動圖表。

前言

《紐約客》漫畫家布蘭登·洛珀沒有畫過那幅悼念多莉·帕頓的漫畫,但上面簽著他的筆名。圖是 ChatGPT 做的。這篇把 Nieman Lab 原文翻譯、HN 網友反應整理在一起,另附一頁互動圖表。

故事翻譯:假漫畫,真簽名

在天堂大門口,多莉·帕頓穿著一襲閃亮禮服,挽著扮成法蘭克博士的提姆·柯瑞。帕頓對著站在天堂接待櫃台的上帝說:「我就知道我選對了同伴。」

這是兩位傳奇藝人八月底去世後,在社群上瘋傳的漫畫設定。其中一則貼文拿到兩萬五千個讚,其他版本也在臉書、Instagram 和 Bluesky 流傳。

漫畫右下角簽著筆名「BLOPER」,那是《紐約客》漫畫家布蘭登·洛珀的簽名。但洛珀沒有畫,也沒有簽。這是 ChatGPT 生成的,最早由一名帕頓粉絲貼到臉書。她在留言區寫道,只是叫 ChatGPT 畫一幅「《紐約客》風格的漫畫」。

「有人寫信問我,這幅漫畫是不是我畫的,」洛珀說。先是雙胞胎兄弟傳訊息來,接著陌生人的電郵和私訊也來了。「感覺非常超現實。」

這不是第一次。今年五月,就有陌生人透過社群警告洛珀,他的筆名出現在聊天機器人圖片上。夏天時,洛珀又在論壇上發現更多例子。

洛珀早就知道作品散落在外,被拿去餵給模型訓練。但圖像生成器偽造簽名,感覺更私人。「我不是佔有慾很強的人,但我的名字就是我的名字。這很像是對我人格的侵犯。」

如今簽名不只是署名。在漫畫經常被剝離脈絡、未經授權流傳的時代,簽名同時是浮水印,把圖和原作者綁在一起。

「對我來說,簽名就是真品證書。我只會在我覺得需要被認出是出自我手的作品上簽名,」洛珀說。「如果我簽了名,就是官方的、就是我的。那真的是一個品牌。」

洛珀不是唯一受害者。同類論壇上有數十張圖,簽著哈利·布利斯、艾蜜莉·弗雷克、喬·戴特、派特·伯恩斯、彼得·維伊、傑森·亞當·卡岑斯坦等人的名字。記者實測還做出喬治·布斯、莉莎·唐納利、艾利斯·羅森、索爾·史坦伯格等人的簽名。總計超過十五位漫畫家,在未經許可、未獲報酬的情況下被冒用。

OpenAI 發言人回應,相信創意的未來本質上屬於人類,重心是打造賦能創作者的工具,感謝社群回報錯誤。記者通報後,ChatGPT 在生成類似漫畫時開始跳出「可能違反近似第三方內容防護機制」的訊息,但截至刊出時,部分生成圖仍繼續簽著真人名字。

在實測中,聊天機器人經常做出老雜誌的招牌樣子:黑白、單格、背景簡潔、線條乾淨,再配一句譏諷圖說,至少是近似版。有些笑點根本不合邏輯。不是每張都有簽名,有些是亂碼,但只要出現真實簽名,經常就是真實供稿者,包括一九六〇年代就發表的華倫·米勒。

「我看得出裡面有我作品的基因,但那還是不像我畫的,」自二〇〇八年起供稿的弗雷克說。網上好幾幅生成圖都簽著她的筆名。「有點像看到遠房表親。」人物姿態和陰影有她的影子,但整體更像好幾位漫畫家畫風的混合體。而每個簽名無疑都是她的。「就像有人把一句我沒說過的話,安到我頭上。」

二〇二四年,《紐約客》母公司康泰納仕與 OpenAI 簽了多年授權,允許在產品中使用集團大量內容。條款未公開,但《紐約客》發言人說,從未授權任何語言模型開發商拿漫畫去訓練。有些生成圖還複製了雜誌標誌,同樣不在授權範圍。OpenAI 拒絕回答模型如何吃進典藏簽名。

就算想授權,合約也幾乎沒有空間。雜誌合作的是自由接案者,投了再說,只有獲選刊登才有錢拿。記者看過的制式合約,沒有一份允許拿去授權做訓練。雜誌有權首發,但不是職務著作,版權仍歸漫畫家。

模型怎麼學會簽名?很可能是從網路抓的。上個月在《紐約時報》控告 OpenAI 案公開的文件,揭露開發方蓄意繞過出版商付費牆。未塗黑的微軟備忘錄把聊天機器人形容為「摧毀自己供應鏈的產品」,把抓取資料形容為「人類史上最大規模的勞動竊盜」。另一份備忘錄裡,時任政策總監傑克·克拉克寫道,相關工作將越來越走向打造取代定義社會文化的人們勞動的系統。克拉克後來共同創辦了 Anthropic。

「那是對一個笑話的印象的詭異仿製品,」自二〇一四年起發表的卡岑斯坦說。「重點不是它好不好笑。重點是它要對勞動下死手。它要讓個別漫畫家變得多餘,因為我們要花錢、要花時間。」

卡岑斯坦曾參與二〇二四年作家協會成員對 Anthropic 的集體訴訟。他的漫畫曾被收進選集,該書被盜版後拿去訓練模型。去年法官裁定訓練屬於合理使用,但下載保存盜版書構成大規模侵害。今年七月法院批准和解,賠付十五億美元,是美國著作權史上最高金額。

卡岑斯坦認為,複製簽名不只是侵害財產,更接近冒名頂替。「它把我的名字貼在我不認可、也不喜歡的作品上。那是垃圾,而且是假裝是我的垃圾。」

幾位漫畫家都把模仿畫風和複製簽名分開看。「我的信用卡被盜刷過,」供稿二十年的戴特說。「那感覺都沒有這次強。盜刷的人,可沒有打扮成我的樣子。」

美國判例還沒跟上圖像生成器,但法院也很可能分開處理。著作權主張的關鍵,很可能在有沒有複製每位漫畫家具體的繪畫風格。康乃爾大學教授詹姆斯·格里梅爾曼說,簽名是真實性表徵,但在合理使用判斷裡,署名只佔很小一部分。最大難題是,聊天機器人通常不是複製某一幅具體漫畫,而是在模仿更籠統的風格。

插畫家莎拉·安德森領銜控告圖片生成廠商的集體訴訟,自二〇二三年纏訟至今,但訴狀沒有提到簽名。格里梅爾曼說,漫畫家可能有理由打公開權官司,也就是各州保護個人免於姓名身分被未經授權使用的法律。但那需要證明生成圖被用於商業目的,而不只是開玩笑。

雖然沒發現這些生成圖被買賣,但已有跡象顯示生成器正在取代職業漫畫家。去年《巴爾的摩太陽報》開除了發表社論漫畫超過三十年的普立茲決選入圍者凱文·卡勞格。今年初,該報開始在觀點版固定刊登人工智慧生成漫畫。用 OpenAI 的浮水印辨識工具一查,就知道是用該公司產品做的。美國社論漫畫家協會主席馬克·墨菲在公開信寫道,譴責用人工智慧竊取創作、濫用地球資源、威脅原創思考。

《紐約客》沒有轉向刊登生成漫畫,但受訪供稿者沒有一個說光靠雜誌稿費養得活自己。一幅漫畫是一張名片,能打開商業案、書籍插畫和其他案子的大門,合起來才構成生計。他們說,最受威脅的正是這些。

一九九八年,伯恩斯以筆名在《紐約客》發表第一幅漫畫,之後走了幾十年職業生涯。從十幾歲開始,他簽名永遠在最後加一個句點。「那就像在信尾簽名。這是我的陳述,我的禮物,你可以接受,也可以拒絕。」記者找到的十幾幅冒用他名字的生成圖,每一幅最後都有一個句點。

網友反應整理

討論串短時間衝到一百八十三分。留言一面倒挺漫畫家,但能告什麼吵成兩派。技術派認為這是訓練資料的必然產物,只能靠預設關掉解掉。

法律戰:告什麼才告得成

美國法下風格不受著作權保護。要改打商標權、肖像權、冒名頂替才有機會,但下指令的人明知是人工智慧生成的,舉證很難。

這件事已經從抄襲變成冒名頂替,後者更嚴重,在法庭上也更好證明。簽名被貼在文件或言論上,後果讓人發寒。

問題不是它會這麼做,而是做完沒被告到倒閉。我自己畫一張、簽別人的名字一定被告,大語言模型廠商憑什麼例外。

訓練本身具高度轉化性使用,未必違法。迪士尼也只敢就商標和解,沒人敢真的去打訓練合法性這一仗。

另有留言主張每次偽造簽名都該親自告誹謗。也有人引用史丹佛教授說法,認為訓練夠轉化,未必違法。

技術解釋派:餵簽名進去,吐簽名出來

訓練集每張圖都有簽名,模型只是在補漫畫角落最可能出現的像素。跟照片生成殘留圖庫浮水印、語音轉寫空白處幻聽出謝謝收看同一個機制。一句總結就是餵簽名進去,吐簽名出來。

不管本意如何,這就是缺陷,該修。修法是預設不簽、除非用戶要求,改打不可見浮水印。

也有靈魂拷問:整張圖都是拿別人的,為何只有簽名越線。回應是人可以畫得很像,但必須簽自己的名,簽別人名就是偽造。機器不是人,只是按指令混合他人作品,簽名只是統計過程的一部分。

實務災情:已經在發生

有人用兩家圖像模型畫連載,每次都要手動擦掉假簽名,很煩,難怪一般用戶懶得擦。也有公司主管在衝刺展示貼了一張簽著筆名的圖,又不好笑又怪,一問果然是聊天機器人做的,他根本沒注意到簽名。產品設計就是一次到位,服務懶惰、懲罰細看。

商業模式批判

抄襲即服務,別裝了,這就是商業模式。留言引用微軟備忘錄原話,也就是人類史上最大規模的勞動竊盜。也有人酸,模型廠商抱怨別人蒸餾自家模型最諷刺,自己就是前所未見的大規模侵權。

分裂:數理程式和藝術能切開嗎

一派希望切開,科學、數學、程式留下,影片、美術、文學拿掉。前者才是模型真正擅長的,後者才是耗能、傷勞工大戶。做法包括只用開放授權、買授權、投稿分潤、雇槍手創作、政府補助。

另一派認為切不開,工具進步會回頭拖累另一邊,直接全面反對。也有人說程式碼也受著作權保護,憑什麼程式就能白嫖。沒有倫理資料就別做,缺東西不是當小偷的理由。

歪樓:模型會不會推理

有人說這件事戳破模型會推理。另一派反駁這是圖像模型不是語言模型,飛機不拍翅膀也會飛。回應說明明是對話模型接單並交圖,連這都擋不下,談什麼推理。

互動圖表

下圖把時間軸、生成鏈、法律四條路、網友四派做成一頁,手機可直接點開。

互動版連結:https://derek-static.pages.dev/newyorker-fake-signature.html

互動版備援連結:https://derek-static.pages.dev/newyorker-fake-signature.html

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *