“雙十一”購物熱潮剛過，不少電商賣家卻陷入了新的困擾：明明發(fā)出的是完好商品，卻收到買家附帶“破損圖片”的僅退款申請，仔細核查才發(fā)現(xiàn)這些“證據(jù)”竟是AI生成的偽造品。記者在網絡平臺上搜索相關詞條后，可以看到很多反映相關遭遇的帖子，記者聯(lián)系到多位網店店主，他們經歷了什么？這些用AI加工過的退貨圖是怎么被發(fā)現(xiàn)的呢？
利用AI偽造商品瑕疵
騙取賣家退款
據(jù)網店賣家王先生介紹，11月13日中午，一名曾在店鋪購買過衣服的顧客發(fā)來消息稱買到的衣服太小，肩寬很緊，要求退貨。王先生說，這件衣服是根據(jù)買家提供的尺寸定制的，即便退貨也無法再次售出，所以他在網上告訴這名買家不需要寄回衣服，只需要銷毀衣服就可以申請退款。通過雙方的聊天記錄可以看到，面對顧客的訴求，王先生回復對方：“衣服剪一下拍個照，然后后臺申請僅退款。”
原價179元的衣服，在購買時有折扣，實付金額為60.52元，通過王先生提供的一張退款詳情界面可以看到，雙方溝通不到一個小時后，退款成功。
但事后王先生又仔細查看買家發(fā)來的衣服被剪損的照片，發(fā)現(xiàn)多處細節(jié)都不符合常理，他懷疑這張圖并不是衣服真的被剪后拍攝的，而是使用AI工具制作的假痕跡圖。于是，王先生向平臺投訴這一行為，不久追回了退款。
一名售賣毛絨玩具的網店店主于女士也向記者講述了她前幾天的經歷，有一名買家在自己店里購買了玩具，然而在收貨時發(fā)來了一張顯示商品有問題的圖片。
賣家 于女士：那個圖片上有一些類似燒焦的感覺，看了那個照片感覺好像是掉在火里了一樣。
這位用戶向客服發(fā)來圖片并聲稱“玩具壞了、都掉皮了”，然后以“質量問題”為由申請部分退款。
可店主于女士認為毛絨玩具的服飾上有明顯的陶瓷制品痕跡，這種使用痕跡不符合常理。心存疑惑的于女士想到這種“怪異”的圖片很像朋友說過的AI作圖，于是她將這張圖片保存下來上傳到一款AI工具，嘗試求證這張圖片的真?zhèn)巍?/p>
賣家 于女士：我把這個圖片發(fā)給AI問了一下，AI講這張圖有很明顯的AI痕跡。
于是，店主于女士向平臺申訴，并拒絕這位用戶的退款申請，理由為“消費者提供圖片為AI生成，屬惡意退款”。電商平臺審核后，駁回了該用戶的退款申請。
除了王先生和于女士這樣網店賣家通過申訴要回退款的之外，也有商家在網絡平臺上發(fā)帖表示被騙之后，沒能要回退款。
惡意網購退款行為
是否構成違法？
網購退款的前提是真實訴求，可AI假圖卻成了“騙款工具”，這種鉆空子的操作僅僅是“不道德”嗎？是不是有欺詐之嫌？在法律層面該如何界定？商家又該如何維護自己的合法權益呢？
民法典規(guī)定，在訂立合同過程中，買賣雙方應當遵循誠信原則。從王先生和于女士兩人的遭遇中可以看到，他們遇到的買家在使用作假的方式試圖獲得不當收益時，事實上已經違背了這一原則。
中國政法大學刑事司法學院教授郭旨龍：如果他故意，但是數(shù)額較小，其實是可以構成民事法上的欺詐，也可以構成治安管理處罰法要處罰的違法性的欺詐行為。
專家介紹，如果買家騙取的金額大，還可能構成刑事犯罪。
郭旨龍：構成詐騙罪，在刑法上是有數(shù)額較大的要求。主觀上得有非法占有的目的，也就是他沒有正當理由去要求僅退款，而是憑空捏造或者是明顯夸大這種程度，使得原來的小額退款變成了大額退款，也有可能構成詐騙。比如通過生成一張圖片或者視頻騙取了數(shù)萬元的退款，這就是由小額變成了大額。
針對這類AI造假騙退款的糾紛，專家提醒，商家要第一時間把聊天記錄、假圖憑證等都保存好，不管是向平臺申訴，還是通過司法途徑，完整的證據(jù)都是維護自己權益的底氣。
郭旨龍：是比較常見的自力取證，也就是將客戶發(fā)過來的圖片和視頻放到自己下載的AI識別軟件上，將整個過程錄下來，然后提交法院。只要這個錄像過程是完整的、真實的，法院一般也會認可它的證據(jù)效力。如果是涉及特別大額的，想讓證據(jù)效力更加完整，可能需要尋找專業(yè)機構，在專業(yè)機構的幫助下將整個鑒定的過程記錄下來，并且出具專業(yè)的鑒定證明文件。
AI生成內容被濫用
如何從源頭治理？
AI作圖本是為用戶提供便捷服務的一種技術手段，但現(xiàn)在卻被別有用心的人當成獲取不當利益的工具，那么，此類事件中除了商家事后的維權，如何從源頭解決問題，預防此類事件的發(fā)生呢？
根據(jù)《人工智能生成合成內容標識辦法》第三條規(guī)定，人工智能生成合成內容標識包括顯式標識和隱式標識。那么，此類AI造假圖片上的標識去哪兒了？記者就這一問題進行了實測。
以一箱蘋果為例，記者先對著這箱蘋果拍攝了一張照片，然后將照片上傳至AI平臺，在輸入簡單指令之后，得到了這箱發(fā)霉變質的蘋果的圖片，其效果可以說是以假亂真了。而在其他AI軟件中，生成的照片也大都難以辨別真假。那么，這樣生成的AI圖片上是否有相應的標識呢？
記者發(fā)現(xiàn)，實測的這幾款AI軟件在生成圖片后，圖片的邊角上都有相應的AI生成標識。但在“千問”等一些AI軟件中，卻有“無水印下載”的選項，以此路徑下載的圖片沒有任何的標識用以證明圖片為AI生成圖片。
根據(jù)《人工智能生成合成內容標識辦法》第四條規(guī)定，服務提供者提供的生成合成服務應在圖片的適當位置添加顯著的提示標識。也就是說，這樣的“AI生成標識”是必須的，不能隨意去除，這就要求AI服務提供者必須擔起責任。
AI服務提供商更應強化源頭管控
網店店主于女士在面對疑似AI圖片時，首先想到用AI軟件進行分辨，那么，AI軟件能做到識別真?zhèn)螁幔坑浾呔蛯@些帶有水印以及“無水印”下載的圖片再度分別進行了實測。
通過畫面可以看到，當把帶有AI標識的圖片讓AI軟件進行識別時，基本上所有的AI軟件都能夠進行準確識別。
隨后記者又將“無水印下載”的圖片上傳至AI軟件，進行多次測驗，分別詢問其“圖片是否為AI合成”以及“圖片是否有AI修改痕跡”等問題時，AI軟件的答案就不那么一致了。在多次測試過程中，這些AI生圖有時能夠被準確識別，但有時候答案又是錯誤的。
此外，如果把帶有AI標識圖片中的標識裁剪后，AI軟件也很難完全準確識別出圖片是否有AI生成的痕跡。
而早在2023年1月10日起施行的《互聯(lián)網信息服務深度合成管理規(guī)定》第十六條中也有明確規(guī)定，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關規(guī)定保存日志信息。第十七條規(guī)定，在沉浸式擬真場景等生成或者編輯服務和其他具有生成或者顯著改變信息內容功能的服務中，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。也就是說，技術開發(fā)者應當在生成合成的文件內容中添加顯式及隱式標識，即讓用戶事前看得到，事后查得著。
郭旨龍：服務提供者是有義務添加顯示標識的，必須在明顯的地方標識，讓看的人一眼就能看出來這是人工智能生成的內容。
專家認為，AI生成內容的規(guī)范治理，既需要監(jiān)管規(guī)則的剛性約束，也離不開服務提供者的主動作為。對于涉及食品、商品等直接關系消費權益的合成內容，AI服務提供商更應強化源頭管控。
人工智能技術算法工程師 蕭子豪：需要AI服務提供商內部更加細致地設計他們的產品，如果合成內容跟食物或跟一些商品有關的情況下，需要他們加大對用戶指令意圖的判斷，可能會加大水印的面積。尤其是用戶量比較多的一些AI平臺，有責任對用戶怎么使用這個工具進行監(jiān)管，對一些真的有不法意圖的用戶，給比較嚴重的懲罰和持續(xù)監(jiān)控，雙管齊下會對整個生態(tài)好一些。
人工智能技術專業(yè)人士指出，對于AI加工后的圖片，商家很難憑肉眼觀察得出結論，這就需要交易平臺提供相應的技術手段予以辨別。
郭旨龍：現(xiàn)在AI生成的鑒定的確通過肉眼沒法完全識別，因為它可以顯得非常逼真。而且隨著技術的發(fā)展，它會越來越逼真。交易平臺去及時有效地部署相關的檢測技術，那就是在買家提供圖片視頻的時候，這個平臺進行自動檢測，檢測完了之后再進行退款，或者再轉給商家自行去處理。
莫用欺詐手段“薅羊毛”
依法守護科技向善
AI作圖很方便，但別用錯地方。用AI偽造瑕疵圖騙取退款看著是“薅羊毛”，實則觸碰法律底線。這可不是用“小聰明”省錢，它是不誠信行為、涉及欺詐，嚴重的可能構成詐騙。
科技應向善生長。在享受新科技成果帶來便利的同時，更得守誠信、知敬畏，別讓好技術變成“歪心思”的工具，共同護好市場的公平。
來源：吉林省互聯(lián)網舉報中心
初審：馬萍
復審：劉晗
終審：張宇
