隨著生成式人工智能深度融入我們的生產(chǎn)生活，“有問題問AI”已經(jīng)成為不少人的習(xí)慣，但AI帶給我們便利的同時，也伴隨著一些問題，比如有人就發(fā)現(xiàn)，AI提供的內(nèi)容并不那么準(zhǔn)確，有時甚至?xí)霈F(xiàn)嚴(yán)重的錯誤。當(dāng)AI一本正經(jīng)地“胡說八道”，就是AI“幻覺”的典型表現(xiàn)。

北京的律師黃貴耕就被AI“幻覺”搞得挺鬧心，他無端被AI捏造了多項不實罪名，職業(yè)名譽(yù)也因此受損。這到底是怎么回事？

01

律師被捏造多項罪名

竟是"AI幻覺"惹禍

黃貴耕是北京的一名律師，去年5月，他經(jīng)朋友介紹，成為一起刑事案件的代理律師。被告人家屬為了了解他的情況，就在百度平臺檢索相關(guān)信息，不料平臺AI竟自動生成了多條關(guān)于黃貴耕律師的虛假負(fù)面內(nèi)容。

黃貴耕：比如說搜黃貴耕律師辦理的案件，百度跳出一大堆，關(guān)于黃貴耕涉嫌威脅法官、私刻印章、介紹賄賂等。當(dāng)事人家屬搜到之后，就感到很震驚。這個律師怎么存在這么多污點。

黃貴耕告訴記者，這些不實內(nèi)容均與他本人無關(guān)。起初，他還以為是有人在惡意詆毀。

黃貴耕：我當(dāng)時都沒有想到是百度AI自動生成的，我還懷疑是同行，因為當(dāng)時我的當(dāng)事人還請了另外一個律師。

后來，被告人家屬告知，相關(guān)內(nèi)容是搜索時百度AI自動生成的。黃貴耕核查發(fā)現(xiàn)，所謂恐嚇法官被罰款3萬元一事，實際是人民法院報報道的發(fā)生在四川成都天府區(qū)法院的新聞中，“律師黃某”因判決結(jié)果與預(yù)期不符，對承辦法官進(jìn)行侮辱、恐嚇，黃某被法院罰款3萬元。百度AI則將新聞中的“律師黃某”，直接替換成了“黃貴耕”。

而“偽造公司印章”，實際是媒體報道過的另一起案件:“法律顧問黃某”偽造印章試圖追討1000余萬元債務(wù)。百度AI把“法律顧問黃某”直接替換成了“黃貴耕”。

黃貴耕：對這種AI會生成這么惡劣信息，就是突破一般人的想象，他不會相信這是假的。如果百度AI這種不負(fù)責(zé)任的行為，就是生成虛假負(fù)面信息，如果得不到遏制的話，很多人都會成為它的潛在受害對象。

于是，黃貴耕律師決定起訴北京百度網(wǎng)訊科技有限公司，案件正在審理中。目前，百度搜索已不再顯示AI生成的關(guān)于“黃貴耕律師犯罪”等虛假信息。

AI將個人電話號碼

錯誤標(biāo)注為某養(yǎng)殖場

類似的事件還有不少，近日，一位網(wǎng)友吐槽，自己的手機(jī)不斷接到陌生電話，對方開口就問是否賣豬。起初他以為是惡作劇，后來才發(fā)現(xiàn)，這些電話竟然來自豆包AI的搜索結(jié)果，他的號碼被AI錯誤標(biāo)注為某養(yǎng)殖場的聯(lián)系方式。AI為何會產(chǎn)生這樣的“幻覺”？這種“幻覺”能否避免呢？

某人工智能公司首席AI專家 王占一：AI的幻覺現(xiàn)在主要指的是大模型的幻覺，那就是大模型在它的生成、回答的過程中，看似生成了很多合理的、很流暢、很自然、語義語法、也沒問題的回答，但是它在事實性、真實性上面是有問題的，可能比較自信，一本正經(jīng)在說什么，但是其實是不對的。

當(dāng)AI一本正經(jīng)地“胡說八道”時，便是“AI幻覺”的典型表現(xiàn)。由于AI給出的回答讀著通順、語氣篤定，用戶往往很難判斷其真?zhèn)?。那么，AI為什么會產(chǎn)生這種幻覺呢？

某人工智能公司首席AI專家王占一解答：

第一個方面是在數(shù)據(jù)層面，訓(xùn)練的數(shù)據(jù)有可能質(zhì)量差或者數(shù)據(jù)缺失，數(shù)據(jù)的時效性不夠，以及問題可能是它沒有學(xué)過。

第二個也是最關(guān)鍵的，就是模型本身的實現(xiàn)機(jī)制。因為它本身是一種概率模型，它依賴于前面的上文去推理下一個詞，這個過程中可能就會有一些“幻覺”，是因為它去回答的時候是更加關(guān)注于怎么樣更加流暢，但是它沒有關(guān)注到事實性。

第三個，在推理和上下文的時候，上下文過長，會對模型的能力提出挑戰(zhàn)，用戶他的輸入和指令可能也有前后矛盾的，模型可能也不知道應(yīng)該選哪個，這也有可能識別錯。

AI出現(xiàn)"幻覺"導(dǎo)致侵權(quán)事件發(fā)生

誰擔(dān)責(zé)？

AI“幻覺”導(dǎo)致虛假信息頻發(fā)，有時候甚至?xí)址该u(yù)權(quán)等，面對這類問題，我國現(xiàn)行法律法規(guī)有哪些明確規(guī)定？

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長 李懷勝：《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，生成式人工智能服務(wù)提供者要承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者的一個法律地位，而且生成的內(nèi)容不得實施或者用來侵害他人人格權(quán)、名譽(yù)權(quán)、個人信息權(quán)益等相關(guān)權(quán)益。如果說相關(guān)的內(nèi)容造成他人損害，就按照民法典的一般侵權(quán)的過錯責(zé)任原則來進(jìn)行相關(guān)的審查。

專家表示，為規(guī)范人工智能發(fā)展，我國已初步形成以《中華人民共和國民法典》等法律為基礎(chǔ)、《生成式人工智能服務(wù)管理暫行辦法》為核心規(guī)范，并輔以《人工智能生成合成內(nèi)容標(biāo)識辦法》等多層次制度框架的AI生成內(nèi)容法律規(guī)制體系，在一定程度上能夠為規(guī)制AI“幻覺”提供基本依據(jù)。

當(dāng)前技術(shù)條件下，AI生成內(nèi)容難以做到百分之百準(zhǔn)確，是由于技術(shù)發(fā)展的不完善造成的，但這并不意味著AI服務(wù)提供者可以免責(zé)，作為平臺，需承擔(dān)以下法律義務(wù)。

中國社會科學(xué)院法學(xué)研究所研究員 支振鋒：對于法律禁止的“有毒”、有害、違法信息負(fù)有嚴(yán)格審查義務(wù)。AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。對于涉及國家安全、社會公共利益以及他人合法權(quán)益保護(hù)的違法信息，平臺不得以“系A(chǔ)I生成”為由免除審查責(zé)任。

專家表示，平臺要以顯著方式向用戶提示AI生成內(nèi)容可能不準(zhǔn)確，對可能生成的有害信息提供事前預(yù)防和事后救濟(jì)途徑。

中國社會科學(xué)院法學(xué)研究所研究員 支振鋒：在事前預(yù)防層面，平臺應(yīng)盡可能做到功能可靠性的基本的注意義務(wù)，采取同行業(yè)通行的技術(shù)措施提高生成內(nèi)容的準(zhǔn)確性。事后救濟(jì)層面，如果平臺發(fā)現(xiàn)或接到投訴知悉存在一些AI生成的不實信息內(nèi)容后，應(yīng)當(dāng)及時檢驗生成內(nèi)容，并在確認(rèn)侵權(quán)后第一時間采取刪除內(nèi)容、禁止傳播等必要措施，防止損害擴(kuò)大，平臺是可以有作為的，也是有可能會承擔(dān)相應(yīng)的法律責(zé)任的。

專家：當(dāng)前"AI幻覺"

不能完全避免但可緩解

專家告訴記者，作為平臺方，“AI會產(chǎn)生幻覺”這件事本身，是完全可預(yù)見的，但具體何時、針對哪個問題會出現(xiàn)幻覺，卻難以判斷。不過，在當(dāng)前技術(shù)條件下，AI幻覺雖無法完全消除，仍可通過預(yù)防措施來降低其發(fā)生概率。

某人工智能公司首席AI專家王占一表示，可以通過這些手段綜合起來可以將幻覺盡量去降低。

在數(shù)據(jù)層面做一些優(yōu)化。

在訓(xùn)練層面，通過強(qiáng)化學(xué)習(xí)的訓(xùn)練方法，讓它能夠更準(zhǔn)確。

在后面模型應(yīng)用時，在里邊加一些工程化的手段，讓它盡量去緩解幻覺，校驗可以用多個大模型或者智能體之間去相互校驗，

可以做一些類似于護(hù)欄手段，比如說輸出涉及容易出幻覺的地方，這些可以做一個交叉驗證，是不是別的地方也有這種足夠翔實的來源。

遭遇"AI幻覺"造謠誤導(dǎo)侵害

如何維權(quán)？

AI會一本正經(jīng)胡說八道，會出現(xiàn)幻覺，所以專家也提醒，網(wǎng)友在使用AI時 就不能完全相信AI搜索得出的結(jié)論，務(wù)必要進(jìn)行交叉印證。我們?nèi)绻庥隽薃I“幻覺”造謠、誤導(dǎo)侵害，該如何維權(quán)呢？

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長 李懷勝：

第一是應(yīng)當(dāng)及時固定證據(jù)，通過截屏錄屏或者公證的方式，來留存相應(yīng)的自身權(quán)利受到侵害的證據(jù)。

第二是向相關(guān)的網(wǎng)絡(luò)平臺及時進(jìn)行舉報，要求網(wǎng)絡(luò)平臺撤除相關(guān)的侵權(quán)信息。

第三是向相關(guān)的網(wǎng)信監(jiān)管部門及其有關(guān)的行政主體來進(jìn)行行政舉報，

第四是向人民法院提起司法訴訟。當(dāng)然如果相關(guān)的侵權(quán)內(nèi)容嚴(yán)重?fù)p害自身的合法權(quán)利，涉嫌犯罪的，也可以向公安機(jī)關(guān)提請報案。