對話(huà)嘉賓
朱榮生（清華大學(xué)戰略與安全研究中心特約專(zhuān)家、元戰略智庫高級研究員）
劉 偉（北京郵電大學(xué)人機交互與認知工程實(shí)驗室主任）
半月談?dòng)浾撸涸谌斯ぶ悄馨l(fā)展過(guò)程中，您認為最難以把控的變量與最突出的風(fēng)險是什么？
劉偉：最難以把控的變量包括不確定性、數據質(zhì)量、道德和倫理問(wèn)題。
人工智能系統的復雜性使得其行為難以預測，常常具有不可解釋性，尤其當系統面臨新的、未曾遇到的情況時(shí)。這種不確定性可能導致系統無(wú)法做出可靠的決策或產(chǎn)生意外的結果。
人工智能系統通常需要大量的數據來(lái)進(jìn)行訓練和學(xué)習，而數據的質(zhì)量對系統性能至關(guān)重要。如果數據存在偏見(jiàn)、錯誤或不完整的情況，那么系統的結果和決策可能也會(huì )受到影響。
人工智能系統的決策可能涉及道德和倫理方面的選擇，例如自動(dòng)駕駛車(chē)輛在緊急情況下如何選擇撞擊的對象。如何確保人工智能系統的決策符合社會(huì )價(jià)值觀(guān)成為一個(gè)難題。
人工智能面臨的安全風(fēng)險較為突出。人工智能系統可能受到黑客攻擊，導致數據泄露、系統癱瘓或被濫用。尤其是在關(guān)鍵基礎設施、金融系統和醫療等關(guān)鍵領(lǐng)域，安全風(fēng)險顯得尤為突出。
因涉嫌侵犯隱私，ChatGPT在意大利下線(xiàn)
朱榮生：從全球治理角度看，歷史上的顛覆性科技革新在極大地解放社會(huì )生產(chǎn)力的同時(shí)，也引發(fā)了全球發(fā)展失衡、財富分配不均、治理機制滯后的社會(huì )經(jīng)濟問(wèn)題。每一輪科技革命帶動(dòng)的全球化往往會(huì )把世界經(jīng)濟推向一個(gè)深度調整期，不可避免地帶來(lái)傳統產(chǎn)業(yè)衰退、大量勞動(dòng)力失業(yè)、社會(huì )動(dòng)蕩加劇的經(jīng)濟負面效應，這對全球經(jīng)濟治理體系改革提出了新要求。
人工智能等先進(jìn)技術(shù)加速滲透融合到人類(lèi)經(jīng)濟和軍事活動(dòng)的各個(gè)領(lǐng)域，放大了維護國際穩定和非傳統安全的挑戰。智能化戰爭初現端倪，人工智能賦能的無(wú)人作戰軍事平臺在巴以沖突、納卡沖突、俄烏沖突中被大量應用。國外政策界對于軍用人工智能技術(shù)的快速部署、肆意擴散以及不負責任地戰場(chǎng)使用，動(dòng)搖國際戰略穩定性的擔憂(yōu)日甚，其中最為急迫的關(guān)切是戰爭形態(tài)向智能化方向演進(jìn)將可能強化首攻優(yōu)勢。
從國家間關(guān)系的角度看，AI“強者先行”的發(fā)展特點(diǎn)也將強化國際競爭壓力。盡管每個(gè)國家都有維護自身“人工智能主權”利益的需求，但是大國和小國因實(shí)力的不均衡面臨著(zhù)不同程度的挑戰。大國具有更強的技術(shù)儲備和抗風(fēng)險能力，能夠在國際技術(shù)交流網(wǎng)絡(luò )中處于核心地位。相比之下，小國恐怕會(huì )因缺少足夠的資源而越發(fā)依賴(lài)于大國的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置。這將進(jìn)一步提高數字地緣政治競爭的烈度，壓縮大國之間本已有限的關(guān)系緩和空間。
半月談?dòng)浾撸喝绾卧诳刂骑L(fēng)險的同時(shí)，讓AI成為對人類(lèi)、對社會(huì )進(jìn)步普惠而有益的工具？
劉偉：確保AI系統的決策過(guò)程是透明的，并能提供解釋?zhuān)员闳藗兝斫馄涔ぷ髟?，如此一?lái)，可增強人們對AI系統的信任感，并幫助預防潛在的不良影響。同時(shí)，需要及時(shí)制定明確的倫理準則，確保AI系統的設計和使用符合道德原則和社會(huì )價(jià)值，包括確保AI系統不歧視、不侵犯隱私和個(gè)人權利，并遵守相關(guān)法律法規。在源頭上確保AI系統所使用的數據具有高質(zhì)量的特點(diǎn)，并嚴格保護個(gè)人隱私。數據的來(lái)源、使用和存儲都應符合相關(guān)法規，并通過(guò)安全措施保護數據不被濫用或泄露。
建立有效的監管機制，確保AI系統的開(kāi)發(fā)和使用符合政府制定的規定和標準，加強對AI技術(shù)和應用的審查和監督，以避免濫用和不良影響。鼓勵公眾參與AI技術(shù)的發(fā)展和決策過(guò)程，并確保各利益相關(guān)方的利益得到平衡，這可以通過(guò)開(kāi)展公開(kāi)磋商、征求意見(jiàn)和建立多方合作來(lái)實(shí)現。建立監測和評估機制，及時(shí)發(fā)現和解決AI系統可能出現的風(fēng)險和問(wèn)題，不斷改進(jìn)和優(yōu)化AI系統的性能和安全性。
朱榮生：從規制人工智能潛在風(fēng)險的角度出發(fā)，各國在維護利益的同時(shí)，應推動(dòng)AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類(lèi)命運，是全球治理面臨的嚴峻課題。國際社會(huì )需要重視廣大發(fā)展中國家在新興技術(shù)浪潮中的脆弱性，技術(shù)強國不應一味只顧本國利益而采取“脫鉤斷鏈”手段。AI是一項軍民兩用技術(shù)，就其民用領(lǐng)域來(lái)說(shuō)，引導全球AI行業(yè)健康發(fā)展，實(shí)現“人工智能向善”的目標，進(jìn)而促進(jìn)AI技術(shù)造福于全人類(lèi)，是世界各國的共同利益。
在更為敏感的軍事安全方面，AI的軍事化應用越發(fā)引起國際輿論的關(guān)注。據國際媒體報道，AI技術(shù)已在新一輪巴以沖突中被運用，造成平民傷亡。從建構人工智能全球安全治理規則的角度出發(fā)，國際社會(huì )恐怕需要審視美西方提出的“負責任的人工智能”理念是否過(guò)于理想，是否應該探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災難?？傊?，要推動(dòng)實(shí)現“AI為了人類(lèi)”的目標，恐怕不僅僅需要確保每個(gè)國家僅基于本國基本安全和發(fā)展利益的“主權人工智能”，更需要具有推動(dòng)構建基于人類(lèi)命運共同體的“全球人工智能”的意識與行動(dòng)。
半月談?dòng)浾撸耗X(jué)得普通人應如何迎接人工智能時(shí)代？
劉偉：隨著(zhù)人工智能的發(fā)展，某些工作崗位可能會(huì )被自動(dòng)化取代，所以不斷學(xué)習和提升自己的技能變得尤為重要，AI在大量重復性、機械化的工作中表現出色，但在涉及創(chuàng )造性思維、情感交流和問(wèn)題解決方面仍有限制，因此，重要的是培養自己的合作能力和創(chuàng )造力，發(fā)展與人工智能協(xié)作的能力。
人工智能的應用需要運用各種科技工具和數據分析技能，人們可以學(xué)習如何使用各種科技工具，以及如何進(jìn)行數據處理和分析，從而更好地與人工智能共同工作。同時(shí)，隨著(zhù)人工智能的不斷發(fā)展，工作環(huán)境和需求也會(huì )發(fā)生變化。因此，普通人需要保持靈活性和適應性，積極適應新的工作方式和技術(shù)變革。
雖然人工智能在某些方面表現出色，但在涉及情感交流、人文關(guān)懷和倫理決策等領(lǐng)域仍有不少局限性，因此，我們可以培養一些情感技能和人文關(guān)懷，發(fā)展與人工智能進(jìn)行人性化交互的能力。
朱榮生：大家應當理性看待人工智能技術(shù)應用對社會(huì )發(fā)展產(chǎn)生的影響。盡管科技界和產(chǎn)業(yè)界對能夠睥睨人類(lèi)智能水平的人工智能最終走入大眾視野存在樂(lè )觀(guān)預期，但是當前的人工智能技術(shù)還沒(méi)有表現出引發(fā)社會(huì )結構顛覆性變化的效果。從ChatGPT到Sora，人工智能所發(fā)揮的主要賦能作用是提高用戶(hù)的工作效率，而沒(méi)有達到“大量機器取代人類(lèi)就業(yè)”的變革程度。與其對不確定性的未來(lái)抱有焦慮情緒，不如理性看待AI的發(fā)展及其影響。
當然，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險是不負責任的。如果人工智能技術(shù)依然延續當前通過(guò)不斷疊加算力的“暴力計算”方式來(lái)提高能力，并且最終實(shí)現超越人類(lèi)的“智能外溢”，那么放縱人工智能技術(shù)無(wú)限度發(fā)展的潛在風(fēng)險將會(huì )加大。（半月談?dòng)浾?宋晨 梁姊）
