時至今日，人工智能早已不在廟堂之上，而是滲透進入我們?nèi)粘Ｉ睢Ｅc此同時，相關糾紛也逐漸涌入司法領域。

9月10日，北京互聯(lián)網(wǎng)法院召開發(fā)布會發(fā)布涉人工智能案件審理情況，提及該類案件增長較快，糾紛類型也日益復雜化和多元化。

當前，司法裁判對于市場行為的示范引領作用不斷增強，因此法院的研判具有重要參考價值。

為發(fā)布會的內(nèi)容劃幾個重點：

一、技術的不確定性帶來了風險升級。但技術門檻高，事實查明難度大，對司法專業(yè)性提出了更高的要求；

二、當前規(guī)范性法律文件存在一定的滯后性，與快速發(fā)展的技術錯配，這對司法人員也帶來了新挑戰(zhàn)；

三、責任的認定是業(yè)界、司法界關注的焦點。人工智能產(chǎn)業(yè)鏈條復雜、上下游相互依存，案件往往涉及訓練者、開發(fā)者、服務提供者、使用者等不同角色，一個司法判決很可能影響相關產(chǎn)業(yè)健康有序發(fā)展。

人工智能案件主要涉及著作權權屬、侵權等

北京互聯(lián)網(wǎng)法院副院長趙長新在會上通報：涉人工智能案件增長較快，糾紛類型也日益復雜化和多元化，主要涉及著作權權屬、侵權，網(wǎng)絡侵權責任，網(wǎng)絡服務合同等案由。

趙長新總結了該類案件的特點：

一是覆蓋產(chǎn)業(yè)領域持續(xù)擴展。隨著人工智能賦能千行百業(yè)，涉人工智能案件不再局限于互聯(lián)網(wǎng)行業(yè)，而是向文娛、金融、廣告營銷等傳統(tǒng)產(chǎn)業(yè)領域廣泛滲透。

二是市場主體創(chuàng)新風險迭代升級。應用人工智能技術的產(chǎn)品和服務快速出新，AI幻覺、算法黑箱等問題的不確定性可能使模型開發(fā)者、服務提供者和用戶等市場主體面臨新型、復合性法律風險。

三是裁判規(guī)則引領作用凸顯。涉人工智能案件司法裁判不僅是對個案技術與法律層面的裁判，更承載著對科技倫理、創(chuàng)新激勵與權益保護進行平衡的價值引導功能，深刻影響著技術發(fā)展方向與社會倫理規(guī)范的形成。

法律存在滯后性，難以適配技術的快速發(fā)展

新型矛盾糾紛與技術發(fā)展相伴而生。趙長新也坦陳了面臨的挑戰(zhàn)：

首先，技術應用復雜導致事實查明難。案件往往涉及對人工智能的生成過程、算法模型以及數(shù)據(jù)來源等進行司法審查，技術門檻高，事實查明難度大，對司法專業(yè)性要求高。

比如因AI生成內(nèi)容打標引發(fā)的糾紛，原告唐某某在某平臺上發(fā)布二百多字文字內(nèi)容，被該平臺判定為“包含AI生成內(nèi)容但未標識”的違規(guī)情況，并將該內(nèi)容隱藏并作出將用戶禁言一天的處理。唐某某進行申訴未成功，此后唐某某主張其并未使用AI創(chuàng)作，對這一平臺進行提告。

最終北互裁判，平臺作為被告既是算法工具掌控方又是結果判斷方，算法工具運算過程和審查結果由被告掌控，應就該事實進行合理舉證或解釋說明。

21世紀經(jīng)濟報道記者注意到，9月1日起，《人工智能生成合成內(nèi)容標識辦法》及配套國標正式實施：AI合成內(nèi)容需打標，并且，用戶和傳播平臺也有責任標明“內(nèi)容由AI生成”，以免與真實信息混淆。

當前多家社交平臺已經(jīng)上線“用AI識別AI”的技術，主動給疑似合成內(nèi)容加注標識。但這引發(fā)了另一重擔憂：有的用戶擔心真實作品被誤判，正如上述案件中的情況；另一部分用戶認為平臺對AI創(chuàng)作“不夠友好”，主動標識會影響流量分發(fā)。

北互的這個案件對AI生成合成內(nèi)容標識的標記、平臺識別和治理在司法審查規(guī)則方面進行了探索，一方面肯定了平臺利用算法工具對AI生成合成內(nèi)容進行審查和處理，履行信息內(nèi)容管理主體責任的積極作用；另一方面，認定平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策結果承擔適度說明義務。

這個判決也會隨著9月1日新規(guī)的施行變得更具有參考意義。

規(guī)則適配不足導致法律適用困難也是挑戰(zhàn)。人工智能領域規(guī)范性法律文件制定存在一定的滯后性，難以完全適應技術快速發(fā)展的新形勢，相關案件的司法裁判常常無法規(guī)可依、無先例可循。

趙長新舉例，在著作權領域，涉及AI文生圖、文生視頻、虛擬數(shù)字人等新型權益客體是否構成著作權法意義的作品，其著作權應歸屬于AI服務提供者還是使用者；大模型訓練對作品的利用在著作權法如何定性等問題。

在人格權領域，涉及自然人的人格權保護范圍是否及于AI合成的虛擬形象、虛擬聲音；以人臉信息作為模型應用深度合成技術是否侵犯個人信息等問題。

“這些具體爭議需要法官充分發(fā)揮司法智慧，綜合法律原則、政策導向、價值衡量等進行合理裁判。”他表示。

而責任認定是業(yè)內(nèi)最關注的話題之一。人工智能產(chǎn)業(yè)鏈條復雜、上下游相互依存，案件往往涉及訓練者、開發(fā)者、服務提供者、使用者等不同角色，各方主體分工合作形成復雜關聯(lián)，影響法律責任的認定。

北互審結的全國首例“AI聲音權案”中，原告主張侵犯其聲音權益的被告涵蓋錄音制品制作者、文本轉語音產(chǎn)品開發(fā)者、服務提供者以及云服務平臺等人工智能數(shù)據(jù)訓練、模型研發(fā)和技術服務鏈條下的眾多環(huán)節(jié)中的多個主體。

趙長新表示：如何理順相應的產(chǎn)業(yè)鏈條，在眾多主體中確定責任由誰承擔，既關涉?zhèn)€案公平正義的實現(xiàn)，又深刻影響著相關產(chǎn)業(yè)能否健康有序發(fā)展。

開發(fā)者應提升AI透明度，提高生成內(nèi)容準確性和可靠性

面對人工智能案件糾紛，北互建議，開發(fā)者應在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止歧視產(chǎn)生，提升人工智能的透明度，提高生成內(nèi)容的準確性和可靠性。明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術。依法開展訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型。采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。

提供者則應依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，違法內(nèi)容，及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關部門報告。落實生成內(nèi)容標識義務，對用戶發(fā)布的內(nèi)容是否為人工智能生成合成進行審查和處理。發(fā)現(xiàn)平臺內(nèi)違法內(nèi)容或利用人工智能從事違法活動的，應當及時采取處置措施，保存有關記錄，并向有關部門報告。