以“以AI治AI,推動智能向善”為主題的巨量引擎商業(yè)安全開放日活動在北京成功舉辦。本次活動聚焦于數(shù)字商業(yè)生態(tài)中的安全挑戰(zhàn)與治理實踐,特別是在商品信息咨詢服務(wù)領(lǐng)域,展示了如何利用人工智能技術(shù)本身來防范和治理AI技術(shù)可能帶來的風(fēng)險,引導(dǎo)技術(shù)向善,護航商業(yè)健康發(fā)展。
隨著人工智能技術(shù)在電商、內(nèi)容平臺、營銷服務(wù)等領(lǐng)域的深度應(yīng)用,其在提升效率、優(yōu)化體驗的也帶來了一系列新的安全挑戰(zhàn),如虛假宣傳、信息欺詐、數(shù)據(jù)濫用、算法偏見等。傳統(tǒng)的安全治理模式已難以應(yīng)對日益復(fù)雜和隱蔽的線上風(fēng)險。為此,巨量引擎提出了“以AI治AI”的核心理念,旨在構(gòu)建一個能夠自我進化、主動防御的智能安全體系。
本次活動重點探討了在“商品信息咨詢服務(wù)”這一具體場景下的安全實踐。在數(shù)字化營銷和交易鏈路中,商品信息的真實性、準(zhǔn)確性是建立用戶信任和保障消費權(quán)益的基石。海量的商品信息、多元的咨詢渠道以及自動化的客服/營銷機器人,也給虛假、夸大、誤導(dǎo)性信息的滋生提供了空間。
巨量引擎分享了其在此領(lǐng)域的創(chuàng)新解決方案:通過構(gòu)建一套深度結(jié)合業(yè)務(wù)場景的AI治理模型,對平臺上的商品信息、廣告內(nèi)容、用戶咨詢與回復(fù)進行實時監(jiān)測、識別與處置。這套系統(tǒng)不僅能夠識別文本中的風(fēng)險關(guān)鍵詞,更能結(jié)合圖像識別、語義理解、行為模式分析等綜合技術(shù),深度挖掘意圖,精準(zhǔn)打擊諸如虛假功效承諾、偽劣商品推廣、價格欺詐咨詢等違規(guī)行為。例如,系統(tǒng)可以智能識別客服對話中可能存在的誘導(dǎo)性話術(shù),或在商品描述中發(fā)現(xiàn)隱藏的違規(guī)信息,從而實現(xiàn)“以技術(shù)對抗技術(shù)”,在源頭遏制風(fēng)險。
推動“智能向善”是本次開放日的另一大主旨。這不僅僅是利用AI進行風(fēng)險管控,更意味著在技術(shù)設(shè)計、模型訓(xùn)練和產(chǎn)品應(yīng)用的各個環(huán)節(jié),都嵌入對公平、透明、可信、負(fù)責(zé)任的考量。巨量引擎表示,其安全AI系統(tǒng)在持續(xù)學(xué)習(xí)對抗新型風(fēng)險的也致力于減少誤判、保護合法經(jīng)營,并通過開放能力與行業(yè)伙伴共享治理經(jīng)驗與技術(shù)成果,共同構(gòu)建更清朗、更安全的商業(yè)環(huán)境。
此次開放日活動匯聚了行業(yè)專家、品牌方、合作伙伴及媒體,通過主題演講、案例研討和技術(shù)展示,深入交流了AI時代商業(yè)安全的前沿趨勢與最佳實踐。與會者普遍認(rèn)為,“以AI治AI”代表了數(shù)字安全治理的未來方向,而“商品信息咨詢服務(wù)”作為連接消費者與商業(yè)的關(guān)鍵節(jié)點,其安全與誠信水平的提升,對于保護消費者權(quán)益、維護市場秩序、促進平臺經(jīng)濟可持續(xù)發(fā)展具有至關(guān)重要的意義。
巨量引擎將繼續(xù)深化在商業(yè)安全領(lǐng)域的技術(shù)投入與開放協(xié)作,不斷完善其智能治理體系,確保人工智能技術(shù)在商業(yè)應(yīng)用中的健康發(fā)展,真正踐行“智能向善”的承諾,為數(shù)字經(jīng)濟的高質(zhì)量發(fā)展保駕護航。