亞洲資本網(wǎng) > 資訊 > 科技 > 正文
防范AI假圖需形成合力
2025-05-09 15:48:53來源： 經(jīng)濟日報
當前，人工智能（AI）技術(shù)給人們生產(chǎn)生活帶來便利的同時，也出現(xiàn)不少風險挑戰(zhàn)，AI造假就是其中之一。例如，有不法分子利用“AI換臉”“AI變聲”等合成技術(shù)實施詐騙，迷惑性很強；一些不良商家靠AI假圖吸引顧客，“圖文不符”“貨不對板”等現(xiàn)象頻發(fā)。

  國家互聯(lián)網(wǎng)信息辦公室等四部門日前聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，要求AI服務提供者和內(nèi)容傳播平臺必須采取措施對AI生成內(nèi)容進行標識。

  《辦法》的出臺是從頂層設(shè)計出發(fā)、加強人工智能行業(yè)治理的又一項制度安排，可有效遏制AI偽造內(nèi)容產(chǎn)生、傳播，推動AI在合法框架內(nèi)健康發(fā)展。在此基礎(chǔ)上，公眾將更容易識別人工智能合成內(nèi)容，有效減少造假誤導情況發(fā)生。

  最大限度降低AI濫用影響，讓技術(shù)更好造福人類，還需社會各界達成共識，形成治理合力。互聯(lián)網(wǎng)平臺是AI生成內(nèi)容的主要傳播渠道，強化AI生成內(nèi)容治理，平臺應發(fā)揮更大作用?！掇k法》特別明確了平臺需對合成內(nèi)容進行審核、核驗。對此，有電商平臺企業(yè)第一時間作出回應，發(fā)布新規(guī)嚴禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真、與實際不符的商品信息效果圖，還向全行業(yè)發(fā)出倡議，規(guī)范使用AI生成圖片，保障商品信息真實，號召加入對AI假圖的全面治理。

  不同于資訊、娛樂內(nèi)容，商品圖片直接關(guān)系到消費決策，需要更精細的管理。平臺要主動出擊完善規(guī)范、推出治理方案，可通過模型識別，攔截失真的AI假圖上傳，同時針對存量假圖向商家發(fā)出整改提醒，并標注提醒消費者注意甄別。

關(guān)鍵詞：

專題新聞
  • 華熙生物·潤致「潤致·緹透」首款明確“膚質(zhì)改善適應癥”的合規(guī)動能素Ⅲ類械證獲批，以合規(guī)與科技重塑醫(yī)美未來
  • 極氪科技集團4月銷量41,316臺，同比增長18.7%_中國經(jīng)貿(mào)網(wǎng)
  • 藏在小縣城中的冷門生意，裹小遞如何幫助低成本創(chuàng)業(yè)者悶聲搞錢
  • 王者回歸，國內(nèi)首款面部膚質(zhì)改善適應癥的Ⅲ類械水光「潤百顏·玻?！公@批
  • 一季度15.4萬輛創(chuàng)紀錄！捷途汽車上海車展全明星陣容再炸場
  • 山莊集團2025中國皇家酒文化開窖節(jié)盛大啟幕

京ICP備2021034106號-51

Copyright © 2011-2020  亞洲資本網(wǎng)   All Rights Reserved. 聯(lián)系網(wǎng)站：55 16 53 8 @qq.com