0
如今，新技術在全球范圍內的蓬勃發展，不斷推動著人工智能與經濟社會的深度融合，人們的生產和生活方式，已經越來越多地被人工智能改變。但與此同時，潛藏的問題和風險也不斷被曝露出來，一個非常典型的例子，就是以視頻換臉作為主要表現形式的深度合成技術。采用這項技術制作的內容在互聯網上廣泛傳播，已發展出多元化的商業應用。如果不加以引導和治理，將會產生巨大的負面影響。
作為領先的第三代人工智能基礎設施和解決方案提供商，深度合成技術是瑞萊智慧持續關注的重點。3月1日，瑞萊智慧在北京舉辦了主題為“AI時代的‘面子’問題”的媒體溝通會，中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文，瑞萊智慧CEO田天，副總裁唐家渝出席了此次會議。會上，瑞萊智慧通過對《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”）的詳細介紹，以及對深度合成內容檢測平臺DeepReal的交流展示，在分享自身對于深度合成技術不同維度的探索和思考的同時，也產生了很多獨到見解和前沿觀點。
瑞萊智慧與清華大學人工智能研究院、清華大學智媒研究中心、國家工業信息安全發展研究中心、北京市大數據中心近日聯合發布《報告》，介紹和研判深度合成技術及應用帶來的機遇與挑戰，并就其發展與治理給出切實可行的建議和措施。瑞萊智慧CEO田天在溝通會上對《報告》內容進行了深入解讀。
瑞萊智慧CEO田天
田天認為，技術的不斷成熟是深度合成內容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的涌現，令深度合成內容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成內容達到了“真假難辨”的程度。“新型偽造方法層出不窮、網絡傳播環境的日趨復雜，加上基于檢測算法存在漏洞缺陷等，反深偽檢測技術面臨‘強對抗性’，需要持續更新與迭代”。
深度合成內容的治理是一項長期的工作，需要社會各方的通力協作。田天表示，瑞萊智慧希望為人工智能和深度合成技術的規范發展出力。對于深度偽造內容，相關的檢測工具十分重要，瑞萊智慧研發的深度合成內容檢測平臺DeepReal，將協助各界、各個機構，讓深度合成技術健康發展。
近年來，中美兩國均出臺了人工智能發展戰略規劃，從國家層面整體向前推進。無論是中國，還是美國，都有著完整的研發促進、鼓勵創新的相關機制，在這些因素的驅動下，中國在人工智能領域，有著很大的上升空間，這也給了AI企業非常好的發展機會。在人工智能安全這個有著非常廣闊發展空間的細分領域，中美兩國可謂是并駕齊驅。
近年來，人工智能安全已成為國家政策層面重點關注的領域，國家相關的法律法規的不斷完善以及各方對于算法治理、隱私保護等問題的高度關注，人工智能安全已迎來關鍵窗口期。現在在國內，尚未產生有世界影響力的人工智能產品和產業生態，這正是瑞萊智慧努力的目標。未來，瑞萊智慧與各界的聯系和合作會越來越緊密，共同為人工智能領域的健康發展貢獻力量。
中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文
中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文受邀出席了本次溝通會，他在演講中表示，深度合成技術涉及到認知安全，所以我們要提升社會認知安全意識，將它作為集體責任，提升公眾的數字素養，以及每個人對深度合成時代真相的認識和鑒別力，這里面有很多需要去努力的事情。人工智能企業都非常希望政府相關部門和各界積極開展有關法律倫理、治理上的對話和相關規范的制定，以及相關最佳實踐的推廣，這其實都是為了實現創新和治理之間的動態平衡，實施敏捷、穩健治理，同時使科技更好地服務數字化轉型、數字生活。
深度偽造技術持續進化，網絡數字內容多變、隱匿性強，監管難度大，因此開展主動技術防范與檢測工作是必要的。會上，瑞萊智慧副總裁唐家渝向媒體講解和演示了深度合成內容檢測平臺DeepReal。他表示，深度偽造技術檢測工作當前面臨兩大難點：一是肉眼難以辨別，傳統人工內容審核團隊無法應對，二是深度偽造檢測面臨“強對抗性”，新型偽造方法層出不窮、網絡傳播環境復雜、深度學習檢測算法模型存在結構性缺陷等。
瑞萊智慧副總裁唐家渝
唐家渝介紹，在結果準確度方面，DeepReal在學術數據集和ZAO等主流方式生成的網絡數據集中，已達到99%以上的準確率，而在實際應用中，DeepReal的檢測準確率也已達到業界頂尖水平，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公布的最好成績。在檢測速度方面，DeepReal可實現每幀畫面的檢測時間僅用時30毫秒。DeepReal平臺此前在國際安全極客大賽等多個重要賽事中屢獲大獎，無論是標準層面、實戰落地層面還是監管層面，瑞萊智慧現已與多家單位開展多方面的合作，DeepReal將在網絡虛假內容甄別、人臉資料審核、影像物證真實性檢驗等實際應用場景中發揮強大作用。
唐家渝表示，除深度合成技術內容檢測以外，瑞萊智慧目前也正在做相關研究，探索深度合成技術的正向應用，例如人臉替換技術，包括演員的面部替換、影視本地化配音、后期更換演員臺詞等等。例如虛擬IP的打造和運營，這樣的虛擬資產，相比真人來說更加可控，也更加有想象空間。在談到深度合成內容制作的發展趨勢時，唐家渝認為，目前該技術集中在人臉合成范圍內，未來一定會擴展到人體、環境等復雜場景下的合成。與此同時，未來相關的法律法規將更加完善，合法合規的應用邊界更加清晰，會進一步促成深度合成相關產品的加速落地。
憑借在人工智能安全領域的深度探索與實踐，瑞萊智慧將運用最新科技，發揮技術優勢，與優秀的合作伙伴攜手，為人工智能安全和企業的轉型升級樹立更多標桿，推動智慧城市的高質量發展，為人們帶來更加美好的生活。
雷峰網(公眾號：雷峰網)
