Google的超強AI工具　怎麼會被拿來做換臉A片？

TensorFlow這項開源資源帶來許多有益人類的成果，例如可能偵測出癌症的演算法，FakeApp的存在則代表著開源的黑暗面。

Google（還有微軟、亞馬遜、臉書）都鬆綁了許多技術力，開放全世界使用，現在任何人都可以下載AI軟體，盡情實驗、創造，這代表可以假造政治演說（使用會模仿聲音的AI），也能產生假的報復性色情影像。所有數位媒介都是一連串的1和0，AI則能透過巧妙安排產生出原本不曾存在的東西。

由於這個軟體可以直接在一台電腦上獨自運作，當軟體離開伺服器，大型科技公司也就喪失了控制權。開源理念的教條，也代表這些公司無需對後果感到愧疚或覺得有責任。

換臉A片風波也不足以改變現狀，因為免費軟體對這些企業來說是門好生意，讓更多人研發AI。每家大型科技公司都陷入盡可能爭搶AI人才的爭奪戰，愈多人湧入這個領域愈好。這些免費勞工會寫出程式碼，啟發新產品，幫忙找出bug、修正程式，大學也會訓練大學生和研究生使用這個軟體，提供一個好管道，增加熟悉公司內部工具的新人才。

廣告

AT&T先進科技副總裁吉爾柏（Mazin Gilbert）說：「大家過去5年都在談機器學習的大突破，但真正的大突破不是演算法，其實演算法跟70、80、90年代沒兩樣，真正的突破是開源。」

「開源降低了入門障礙，所以現在口袋最深的不再是IBM，而是Google和臉書。」

隨著輿論對AI開發倫理的重視，開源軟體議題也複雜化。Google目前提供的工具，並非用來創造《魔鬼終結者》的天網（Skynet）等恐怖威脅，但依然可能造成真正的傷害。Google、微軟等提供開源AI架構的企業一直大聲疾呼AI倫理的重要性，也讓旗下科學家展開相關研究，但這些公司並未提供任何下載免費軟體的指導原則，像TensorFlow官網就沒有任何倫理相關的指南說明。

讓AI不再開源似乎也不是理想的解決方法，ArXiv、Github等網站上免費分享的資訊，代表相關人士可以發現潛在的陷阱並要求問責。由於這項核心科技的開發人員不會願意為換臉A片的出現負責，責任將落在這些影像分享的平台上。例如，Gfycat刪除所有deepfakes製作的GIF動圖，Reddit禁止該討論區，PornHub也表示一發現有類似影片也會刪除。但deepfakes.club網站依然存在於主要社交平台之外。

廣告

換臉A片不但傷害了被換臉的女明星，也貶低了A片女演員的專業作品，把她們當成「可替換的」，在她們不知情、不同意、不能控制的情況下散播這些數位操縱；這項科技可以允用在名人身上，不可避免地當然有人會拿來使用在一般人身上，如班花、同事、小孩、同學、前女友，作為一種報復性色情手段，數位性騷擾將進入黃金時代，任何女性只要被拍太多照片都得疑心，更不用說上傳照片到社群網站時得多加思考權限問題。

向來疾呼要對大數據問責的數學家歐尼兒（Cathy O’Neill）對色情換臉並不意外，她說這早已存在多年。她建議，在假新聞當道的時代，我們最好對任何所見、所聽、所讀、所聞抱持懷疑，因為就連聲音也是可以編輯的。

（資料來源：Quartz、Vox）