火爆背后，ChatGPT打開了人工智能的“潘多拉魔盒” 世界快看

ChatGPT的爆火，生動詮釋了什么是“人紅是非多”，發展至今已經吸引了眾多互聯網大佬的關注和討論。

毋庸置疑，對于一款具有分水嶺意義的產品而言，不少企業家都認同大型語言模型的廣泛應用。微軟創始人比爾蓋茨曾表示：“ChatGPT的誕生絲毫不亞于個人電腦的誕生?！庇ミ_創始人黃仁勛也表示：“ChatGPT只是起點，我們正處于AI的iPhone時刻?！惫雀枨癆I團隊成員、deeplearning.ai創始人吳恩達曾在推特上發表言論，認為ChatGPT等大型語言模型是“人工智能領域最為激動人心的進展之一?！?/p>

(資料圖片)

但也有部分企業家認為，ChatGPT們的火爆背后，隱憂猶存。

人工智能需要強監管嗎?

我們在人工智能的發展方面，是否步伐太快?

3月末，生命未來研究所(Future of Life)發布了一封公開信，包括馬斯克在內的上千名人工智能研究人員和技術高管進行了簽名，呼吁所有人工智能實驗室暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。

對此，國內的相關企業家也對此示警：劉慈欣曾在一次采訪中表示：“ChatGPT等大型語言模型的出現將徹底改變人類的閱讀和寫作方式，同時也會帶來一些新的道德和倫理問題?！敝茗櫟t也曾就相關大型語言模型的安全性問題給予提醒：“在使用公開GPT時一定要注意安全問題。大型企業在用 GPT 時不只是搜索，還會給它喂很多數據，會把很多上下文的前提背景告訴它，這就意味著很多信息的隱私可能會被泄露?！?/p>

毋庸置疑，ChatGPT這樣的產品是人工智能產業發展的里程碑。但即使是火爆如ChatGPT，也面臨著至暗時刻的來臨。

不久前，以色列網絡安全公司Team8的最新報告顯示，使用ChatGPT等生成式人工智能的企業可能會因此泄露客戶信息和商業機密。該報告稱，新型人工智能聊天機器人和協作工具的廣泛普及，可能會令一些公司面臨數據泄露和法律風險。他們擔心黑客可能會利用聊天機器人獲取敏感的企業信息或對企業發動攻擊。此外，目前投喂給聊天機器人的機密信息未來也有可能會被人工智能公司利用。

除此之外，各國政府對于ChatGPT的態度也開始變得更加冷靜。

美國聯邦貿易委員會(FTC)也表示將重點關注濫用人工智能技術違反反歧視法或存在欺騙行為的公司。意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發這一平臺的OpenAI公司處理意大利用戶信息。英國則發布了一份文件，建議監管機構監督人工智能的發展，重點在安全性、透明度和公平性。

AI的使用離不開適度監管

阿里通義千問、飛書My AI、知乎知海圖 AI、京東言犀、馬斯克的 TruthGPT 都冒出了頭，科技互聯網行業一時之間，好不熱鬧。當越來越多的企業跑步入場，大型語言模型也面臨著越來越多的困局。

4月18日，CSDN發布《2022-2023 中國AIoT開發者調查報告》。報告中提到：“對AIoT抱持不安全感態度的開發者占比6%，也有11%的開發者擔心AIoT會加劇失業問題?！辈⑶?，伴隨AIoT技術的廣泛應用，也會帶來一系列倫理、法律和社會影響，將改變我們經濟發展路徑和社會生活形態。因此，在AIoT技術普及之前，需要開展廣泛的社會、文化和倫理的探討研究。

目前，ChatGPT作為生成式AI的代表已經迭代到了ChatGPT 4.0。隨著版本的更新迭代，GPT-4的文字輸入限制也得到了提升，達到了2.5萬字，并且對于非英語語種的支持也得到了更多的優化。這也使得ChatGPT不僅能夠更加準確地回答問題，還具備更高水平的圖像識別能力。此外，ChatGPT 4.0還能夠生成歌詞和創意文本，并且實現了風格的多樣性。

相關資料顯示，初代GPT模型的參數是1.17億個，GPT-2是15億個，GPT-3模型參數量達到1750億，是GPT-2的100倍;而GPT-4的真實參數在1750億-2800億之間，重點在數據處理優化上。

但需要注意的是，伴隨著ChatGPT成長而越來越龐大的數據和越來越強的算力，也意味著更大的數據和隱私風險。據報道，三星在引入ChatGPT不到20天里，就已經發生了三起半導體機密資料外泄事故，涉及測量資料、產品良品率等內容，傳聞已被存入到ChatGPT學習資料庫中。大型語言模型的負面效應已經開始展現。

在國內，相關政策的制定已經走在前列。此前，《生成式人工智能服務管理辦法(征求意見稿)》面向社會征求意見，這意味著，當下備受關注的生成式AI產業將迎來首份監管文件。從生成式人工智能服務商的準入，到算法設計、訓練數據選擇、模型、內容，以及用戶個人隱私、商業秘密等方面提出了相關要求。其中特別強調了生成式人工智能產品訓練數據及生成內容的真實性、合法性，要求提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。

或許，這將是人工智能產業發展的必由之路：在為人工智能發展制定框架的同時留足發展空間，讓人工智能得以實現大范圍普及。畢竟，技術本身沒有好壞之分，但“技術不作惡”，才是產業發展的根本底線。

關鍵詞：