最近幾天，OpenAI視頻模型Sora的推出刷爆整個互聯網，但與此同時，該模型的出現也讓人們對于它可能被用來制造高質量虛假視頻的潛在風險感到擔憂。

  這兩年，人工智能領域可謂熱鬧非凡。在發布ChatGPT一年多之后，OpenAI再次甩出一顆重磅炸彈。

  ChatGPT之后的又一爆款產品

  美國當地時間2024年1月15日，OpenAI在其官網上面正式宣布推出多模態大模型Sora，作為一款創新的視頻生成工具，Sora可根據自然語言文本提示生成高質量的視頻內容。

  具體而言，Sora不僅能夠理解用戶在提示中要求的內容，還了解人和物在物理世界中的存在方式。并且，該模型對語言有著深刻的理解，從而可以準確地理解提示，并生成令人信服的人和物來表達充滿活力的情感。此外，Sora還可以在單個生成的視頻中創建多個鏡頭，以準確保留角色和視覺風格。

  除了OpenAI外，Meta、谷歌等公司也推出了文本生成視頻的AI工具。但Sora的獨特之處在于，能夠直接從文本輸入一次性生成連續且完整的視頻片段，時長可延伸至60秒，并且在生成過程中無須逐幀拼接，從而確保了輸出視頻內容的連貫性和一致性。

  引發安全憂慮

  然而，隨著Sora的嶄露頭角，其強大功能也帶來安全風險擔憂，具體來看：

  第一，隱私泄露。多模態大模型使用大量數據和不同的數據類型進行訓練，包括文本、圖像、音頻等多種模態的信息。這些數據可能含有用戶的個人隱私和敏感信息，如果模型的數據處理不當或存在安全漏洞，就可能導致用戶數據的泄露和濫用。

  第二，知識產權與版權侵犯：大模型的訓練數據可能存在未經授權使用版權作品的情況，或者在生成內容時可能觸及原創者的權益，從而引發版權爭議。值得一提的是，據媒體報道，當地時間2023年12月27日，美國《紐約時報》以侵犯版權為由，起訴美國微軟公司和OpenAI，指控這兩家企業未經授權使用該媒體數以百萬計文章訓練ChatGPT等人工智能(AI)聊天機器人。

  第三，技術濫用。多模態大模型可用于制作逼真的合成媒體內容，這種技術可能被用于制造假新聞、誹謗他人或者從事其他違法行為。

  此外，大規模數據集可能存在價值偏見、數據污染等問題，這些問題在多模態環境下可能更加復雜，進一步影響模型的安全性和可靠性。

  實際上，IDC分析師也指出，多模態大模型技術將帶來更為嚴峻的安全挑戰。一方面，多模態大模型將讀取更多的圖像、視頻類數據，這些圖像視頻數據是否合規是否安全，需要得到保障;另一方面，生成的視頻與真實世界之間的差異，是否會影響到人身安全、社會穩定、企業安全等，也需要注意。

  媒體報道提及，盡管OpenAI在發布Sora時聲稱所有訓練素材均源自公開渠道或經過合法授權，但并未透露具體涉及多少視頻樣本及其確切來源，這在一定程度上增加了外界對于數據安全性的疑慮。

  此外，在2024年這個被稱為歷史上最大規模的選舉年，深度偽造技術成為不容忽視的風險點。據統計，2024年，全世界至少有65個國家/地區將會先后舉行選舉，預計將影響全球超過40億人。在此背景下，AI深度偽造技術可能被濫用以制造大量虛假音視頻內容，從而試圖操縱公眾輿論和選舉結果。

  據悉，為了防止惡意濫用，OpenAI采取了相應的措施，包括：與錯誤信息、仇恨內容和偏見等領域的專家進行合作，對模型進行對抗性測試;構建一些工具來幫助檢測誤導性內容，比如，通過檢測分類器，可以分辨出視頻是何時由Sora生成的;利用為使用DALL·E 3的產品構建的現有安全方法，這些方法也適用于Sora;在OpenAI產品中，文本分類器將檢查并拒絕違反使用政策的文本輸入提示，如要求極端暴力、仇恨圖像、名人肖像或他人IP的文本輸入提示。另外，OpenAI還開發了圖像分類器，用于檢查生成的每個視頻的幀，確保展示給用戶的內容符合標準。

  但同時，OpenAI也承認，無法預測人們使用Sora的所有有益方式，也無法預測人們濫用技術的所有方式。

  我們看到，確保任何技術不被濫用始終是一項艱巨挑戰，Sora也不例外。對于OpenAI而言，需要不斷進行技術革新，制定并嚴格執行使用規范。與此同時，還需要社會各界的共同監督和努力。只有這樣，才能最大限度地發揮Sora技術的潛力，確保其能夠被合法、合規地應用。

  寫在最后：

  不可否認，科技的進步為人類帶來了便利，但同時也伴隨著一些潛在的風險。因此，在追求科技發展的道路上，我們必須秉持開放、包容的心態，同時保持審慎的態度，以便更好地把握科技所帶來的機遇，并有效應對未知挑戰。