- 是“神器”還是“魔盒”? ChatGPT將給我們帶來哪些挑戰與機遇
- 2023年04月13日 來源:中國網財經
提要:趙東認為,現階段的監管措施,網絡三法規定的基本原則、制度和要求,是維護網絡安全、個人信息安全、數據安全的“最低要求”;有關制度、規則并不限制新技術的發展,反而希望新技術促進以數據為關鍵要素的數字經濟發展,為經濟社會發展全面賦能。
(記者 譚夢桐)近年來,隨著區塊鏈、元宇宙,再到ChatGPT的爆火,越來越多的應用讓人們感受到了人工智能的強大。擁抱科技的同時,不少人也表示擔憂。ChatGPT是否會取代人工?生成式AI技術的發展,能推動哪些產業進步?AIGC(利用人工智能技術來生成內容)領域如何監管?中國網財經記者采訪到了多位專家。
ChatGPT是什么?能為我們帶來什么?
ChatGPT是美國OpenAI公司研發的聊天機器人程序,它能夠通過理解和學習人類的語言來進行對話,還能根據聊天的上下文進行互動,真正像人類一樣來聊天交流,甚至能完成撰寫郵件、文案、代碼,寫論文?等任務。
浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林介紹,ChatGPT通過三步走來優化其行為,除了利用海量語言數據、海量標注的語言范例來學習外,還需通過強化學習算法對ChatGPT回答進行打分,一方面讓ChatGPT的回答具有隨機性,另一方面讓ChatGPT更大概率用最優的方式回答問題。
盤和林認為,ChatGPT比過去的AI更智能,不僅僅是聊天,它還可以寫代碼、寫文案,GPT-4的多模態模型中還加入讀圖功能,它也可以輔助搜索,同樣的功能可以移植到辦公軟件領域,移植到醫學領域,移植到新聞廣告領域。
“我們認為ChatGPT將帶來生產力的變革。”盤和林表示。“因為所有領域都可以用GPT來提升效率。人類將記憶性、重復性的工作交給GPT,自己承擔創造性的工作,這大大降低了人類創新創造的門檻。”
ChatGPT是否取代人工?
不過,ChatGPT為生產力帶來變革的同時,也帶來了隱憂。
據媒體報道,近日,高盛一份最新的研報顯示,ChatGPT等AI的最新突破,將給全球勞動力市場帶來重大顛覆,全球預計將有3億個工作崗位被生成式AI取代。
“生成式AI技術會沖擊工作內容重復度高、難度低的行業。” 中國信息通信研究院云計算與大數據研究所副所長魏凱在接受中國網財經記者采訪時表示,“諸如人工客服、初級程序員、文案編輯等。”
這部分勞動群體該如何應對AI代替人工造成的就業擔憂? 魏凱認為,面對這樣的沖擊,勞動者們未來需提升個人的思維力、實踐力、創造力。
“勞動者需要將個人的技能經驗進行系統化總結,形成獨創性經驗。” 魏凱舉例說明,例如生成式AI中的文本生成類應用,目前其生成內容仍存在邏輯不清晰、回答不準確的問題,需要經驗豐富的人士進行潤色。同時,勞動者也可以快速掌握使用方法,讓生成式AI應用成為生產力工具。再例如一些簡單的編程代碼可以交給生成式AI應用產出,技術人員可以專注更復雜的算法開發、研究。基于已有的經驗,藝術設計方向的資深人士可結合自己的思路構建提示詞,促使生成式AI應用產出更具創意的作品。
生成式AI 技術的發展,能推動哪些產業進步?
隨著ChatGPT的爆火,生成式AI帶來產業機會,各行各業紛紛布局。
從去年11月ChatGPT發布開始,國內大廠便率先關注到生成式AI技術,各個大廠曬應用、發產品、組建團隊,搶占技術應用的高地。
例如,中國三大電信運營商近期紛紛表示參與類ChatGPT服務帶來的機遇中。在金融領域,也有多家銀行積極考慮將類ChatGPT為代表的生成式對話產品引入銀行業務。據悉,目前包括客戶服務、數據分析、投資建議、半自動程序編寫等業務已可以接入ChatGPT,未來隨著技術進一步發展,效果進一步提升,應用場景會逐漸豐富。
“從應用角度看,生成式AI能夠利好文娛行業、生物醫藥等多個行業。”魏凱具體分析,文娛行業中,基于文生圖、文生視頻、文生3D模型應用,生成式AI能夠加速設計作品的制作過程,提升游戲、動漫畫面的制作效率。生物醫藥行業中,目前國外一些大型制藥公司嘗試用生成式AI設計針對疾病的蛋白質模型,生成式AI也有助于縮短藥物研發周期。
“劍橋大學的研究人員利用ChatGPT確定了一個治療阿爾茨海默病的新靶點。”魏凱舉例。
從要素角度看,伴隨生成式AI技術發展,合成數據或將促進AI數據集質量提升。生成式AI應用訓練時使用合成數據學習內容、對象,并生成全新內容,可有效緩解數據短缺問題,盡可能降低數據投毒風險、保證生成結果安全可信。
盤和林認為芯片、CPO光模塊、ICT通信設備、智算中心、云計算服務商、AI應用企業、算法平臺、互聯網平臺企業等上下游產業均將受到生成式AI發展帶動進步。
值得一提的是,在AI時代背景下,東數西算工程的意義顯得更加重大。國信證券認為,西部地區得天獨厚的資源稟賦將成為AI時代最寶貴的“降本”資源,東數西算工程使降低“數據存儲成本”變成“降低社會整體運行成本”。
盤和林指出,生成式AI需要智算中心,智算中心可能需要距離需求方更近以降低時延,所以,一方面東數西算為生成式AI提供了算力支持,有效推動發展,另一方面東數西算布局也會隨著智算算力特點,有所調整,將數據中心和智算中心區分開來。
AIGC領域如何監管?
3月31日,據央視報道,意大利個人數據保護局表示,已就OpenAI聊天機器人ChatGPT涉嫌違反數據收集規則展開調查,即日起禁止使用ChatGPT,并暫時限制OpenAI處理意大利用戶數據。
此外,歐盟執法機構歐洲刑警組織警告ChatGPT可能被濫用于網絡釣魚、虛假信息和網絡犯罪;非營利組織人工智能與數字政策中心(CAIDP)也向美國聯邦貿易委員會(FTC)投訴稱,GPT-4“有偏見性,欺騙性,對隱私和公共安全構成風險”。
在國內,AIGC(利用人工智能技術來生成內容)也同樣存在諸多風險。包括隱私風險、人工智能生成內容濫用風險、數據缺失或錯誤風險、知識產權風險等等。
近日,中國支付清算協會發布《關于支付行業從業人員謹慎使用ChatGPT等工具的倡議》,引發業內關注。協會倡議業內提高思想認識,依法依規使用;不上傳關鍵敏感信息;會員單位加強內部管理和引導。
不過,聚焦AIGC存在的風險,我國現有的監管體系已經成形。在法律法規層面,一方面是通過專門性綜合性立法對網絡運營者在使用人工智能技術的義務和責任進行規范,另一方面則是切實聚焦到人工智能領域的算法、模型、技術,進行具體規范。
4月11日,為促進生成式人工智能技術健康發展和規范應用,根據《中華人民共和國網絡安全法》等法律法規,國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(下稱“意見稿”),并向社會公開征求意見。該意見稿從個人信息保護、數據來源合法性、知識產權保護、約束不正當競爭行為等方面進行規范。
該意見稿還提出,生成式AI提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。此前,《互聯網信息服務深度合成管理規定》的監管范圍為深度合成技術、深度合成服務,僅作為規范AIGC技術及服務的參考。
北京市京師律師事務所律師趙東在接受中國網財經采訪時表示,在未來一段時間內,網絡三法(《網絡安全法》、《數據安全法》、《個人信息保護法》)及其規定的相關制度依舊是新技術監管的重要依據。按照網絡三法對新技術的產生和運用進行嚴格監管,不僅有利于維護網絡安全、數據安全和個人信息安全,也有利于整個行業的健康、有序發展。
盤和林認為,意見稿的發布,主要是明確了生成式人工智能先規范再發展的總基調,總體上是為了完善生成式AI的應用環境,為生成式AI在國內應用創造條件。但從另一方面看,當前意見稿內容還比較簡化,部分條款的線條還比較粗,他建議未來需要進一步完善意見稿內容,防止“一管就死、一放就亂”的情況在生成式AI領域出現,在生成式AI的發展和安全有序推進之間找到平衡點。
“對于AIGC的監管有必要,監管目標不應該是AI的人格,而是用AI的人,了解他們想要達到的目的。” 盤和林直言。
趙東認為,現階段的監管措施,網絡三法規定的基本原則、制度和要求,是維護網絡安全、個人信息安全、數據安全的“最低要求”;有關制度、規則并不限制新技術的發展,反而希望新技術促進以數據為關鍵要素的數字經濟發展,為經濟社會發展全面賦能。