今年以來，ChatGPT引領AI技術(shù)率先“出圈”， OpenAI、Google、微軟、英偉達、百度、華為、阿里巴巴等紛紛入局推出相關AIGC產(chǎn)品，在科技界卷起“驚濤駭浪”。而今年3月底，意大利個人數(shù)據(jù)保護局宣布禁止使用ChatGPT，此后，德國、加大拿、法國等也相繼表達相似態(tài)度，一度讓AIGC在歐洲陷入僵局。5月初，谷歌、微軟、OpenAI等高管與美國政府官員會面討論AI立法等問題。

　　以上種種，癥結(jié)在于人工智能可能面臨的數(shù)據(jù)安全、隱私保護、倫理規(guī)范等方面的風險和挑戰(zhàn)無法預測，業(yè)界甚至有聲音提出要“按下暫停鍵”。

　　“人工智能教父”杰弗里·辛頓今年年初曾經(jīng)警告，人工智能對人類構(gòu)成的威脅將比氣候變化更加緊迫。如果有人用它來制作虛假圖像、視頻，傳遞錯誤信息，其破壞力遠大于單純的文字形式。

　　當前，人工智能詐騙案件頻發(fā)應驗了這一警告。業(yè)內(nèi)人士指出，要更好地發(fā)展和應用AI大模型及相關產(chǎn)品，就必須積極應對其可能帶來的知識產(chǎn)權(quán)、安全、倫理、環(huán)境等方面挑戰(zhàn)，實現(xiàn)科學有效堅持監(jiān)管與創(chuàng)新發(fā)展的平衡。

　　“目前，我國人工智能的監(jiān)管是著重于內(nèi)容安全?！北本├砉ご髮W法學院教授、外交部國際法咨詢委員會委員洪延青在2023中關村論壇院士專家企業(yè)一席談平行論壇上指出。

　　記者了解到，今年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《辦法》)，明確了生成式人工智能的定義，以及相關產(chǎn)品和服務提供者的合規(guī)義務，對生成式人工智能進行專項監(jiān)管，預計這個管理辦法即將生效。

　　洪延青表示，《辦法》著重強調(diào)生成式AI所產(chǎn)生的文本、圖片、聲音、視頻、代碼的真實性、準確性、客觀性。對于生成式AI的開發(fā)者，應承擔內(nèi)容生產(chǎn)者責任和個人信息處理責任;對于下游使用生成式AI的應用者，應當向國家網(wǎng)信部門申報安全評估，并履行算法備案和變更手續(xù)等。在洪延青看來，主要防范的是技術(shù)背后的想象，比如合成人臉、合成聲音來詐騙等。

　　在國外，歐盟和美國走出的AI監(jiān)管路徑各不相同。洪延青介紹道，歐盟AI法案從人的基本權(quán)利保護出發(fā)，起初劃分為低風險、高風險AI和禁止性AI，并在通用性AI監(jiān)管和基礎模型層面分別規(guī)定了開發(fā)者的盡責義務。當技術(shù)進展到生成式AI階段，監(jiān)管則主要聚焦兩項內(nèi)容：一是能夠規(guī)避內(nèi)容問題，例如虛假信息和誹謗，二是在生成式AI訓練中使用到數(shù)據(jù)的版權(quán)問題。

　　洪延青也指出，美國的AI政策相對寬松，基本上是鼓勵發(fā)展的態(tài)度。國會4部法律宗旨是要提升全國AI能力，白宮行政令也是以AI能力建設為導向，政府使用AI是需要嚴格監(jiān)管，但對于社會消費者而言監(jiān)管相對寬松，只是整體上對于社會平等性等問題比較關注。

　　洪延青總結(jié)道：“總的來說，我國AI監(jiān)管現(xiàn)階段關注內(nèi)容安全，歐盟關注對人的基本權(quán)利的保護，美國到現(xiàn)在為止是一個推進AI能力建設的路徑，所以三個不同的國家和地區(qū)走了三個不同的方向，但是我相信等歐盟人工智能法案在年底或者明年通過之后，會對全球產(chǎn)生比較大的影響，可能到時候監(jiān)管格局會發(fā)生比較大的變化。”

　　洪延青對AI企業(yè)提出建議，要高度關注這些法律的變化，以及不同國家和地區(qū)法律變化所產(chǎn)生的聯(lián)動效應。

　　作者：盧夢琪　　來源：中國電子報、電子信息產(chǎn)業(yè)網(wǎng)