網紅「小玉」朱玉宸與莊姓男子，利用人工智慧與合成軟體，合成119名被害人臉部圖像，製作猥褻與色情影片並散播，涉犯妨害風化、個資法、加重誹謗等罪，新北檢今天偵結起訴。
網紅「小玉」朱玉宸與莊姓男子，利用人工智慧與合成軟體，合成119名被害人臉部圖像，製作猥褻與色情影片並散播，涉犯妨害風化、個資法、加重誹謗等罪，新北檢今天偵結起訴。
新北地檢署表示，被告朱玉宸、莊男2人為圖私利，恣意濫用人工智慧之圖像合成技術，將為數眾多的女性被害人圖像或影片，以移花接木的方式，合成及偽造出擬真性極高、真假難辨的猥褻影片，並透過網路傳輸（播）及分享方式加以散布。
朱玉宸（藝名小玉）是前網路影片搜尋與分享平臺「YouTube」直播主，莊姓男子是朱玉宸助理，自民國109年7月起，由朱玉宸在網路推特建立帳號及粉絲團、在網路YouTube社群平臺建立帳號與頻道，隨後開始上傳並播放合成換臉宣傳短片。
檢方說，朱玉宸等人招攬不特定公眾或網友加入網頁粉絲團，透過網頁或透過連結等方式購買及註冊會員，依金額不同可瀏覽不同長度的換臉影片，也可單次或集資購買及瀏覽，費用進入朱玉宸所有的銀行帳戶。
莊姓男子負責於網路下載被害人照片或影片，並擷取被害人的「臉模」（人臉特徵）作為製作換臉影片的素材；再由朱玉宸利用換臉軟體，透過AI及深偽（Deepfake）技術，合成人體（人臉）圖像或影像。
他們將119名被害人臉部特徵，合成至朱玉宸自成人色情網站所購買或下載的日系色情猥褻影片中，合成並製作出擬真性極高、幾可亂真的被害人猥褻影片，並上傳、儲存至雲端空間，再透過付費及瀏覽方式分享會員或購買者。
檢方說，去年10月持搜索票至新北市樹林區的工作室與住處，當場扣得現金及製作猥褻影片的電腦主機等證物；其中，有83名被害人提出告訴。
檢方說案件偵結，被告2人涉非法利用個資罪嫌、加重誹謗罪嫌及散布、播送及販賣猥褻影像罪嫌。
