人工智慧可以改變我們的生活和互動方式。圖片來源：Unsplash/danranwanghao

《世界經濟論壇》1月12日發表，人工智慧有潛力改變當今世界的大多數方面，但如果不加以控制，它可能會造成嚴重威脅。

多個利害關係人之間的合作是製定監管人工智慧系統而不損害其創新能力的政策的關鍵。

以下是《世界經濟論壇》達沃斯電台播客人工智慧版的專家們的一些觀點。

「很少有一種技術能夠在一夜之間被數百萬人使用。當這種情況發生時，你既會對它的有益和意想不到的使用方式感到興奮，但也會感到脆弱，因為它是一項技術在任何地方同時使用”

Cohere 研究副總裁兼 Cohere For AI 負責人 Sara Hooker 與人工智慧領域的其他權威人士一起為《世界經濟論壇》達沃斯電台播客的人工智慧版發表了意見綜述，她說道。

該論壇於2023年組織了兩場人工智慧高峰會，並成立了人工智慧治理聯盟（AIGA），這是一個多利益相關方團體，致力於解決人工智慧政策如何跟上技術發展的問題。人工智慧日益增長的影響力似乎也將成為即將在達沃斯舉行的年會上的熱門話題。

一、專家怎麼說？今年我們對人工智慧學到了什麼？人類社會如何在未來治理這種快速發展且可能具有高度顛覆性的技術？

1.為什麼人工智慧及其治理如此重要

人工智慧有能力改變我們的世界，改變我們的生活和互動方式，提高生產力和工作參與度，提高創造力等等。

然而，這些技術正在以指數級的速度發展，並將世界帶入未知領域，充滿了技術濫用、安全性漏洞、工作流失和經濟混亂等潛在挑戰。

世界經濟論壇的《2023 年就業未來報告》指出，雖然人工智慧可能取代數百萬個工作崗位，但這項技術的出現將創造許多新的工作。

成長最快的職位元是人工智慧和機器學習領域的專家。圖：世界經濟論壇

人工智慧和機器學習專家是成長最快的職位，其他職位元也需要人類技能，如判斷力、創造力、身體靈活性和情緒智商。

下降最快的職位是重複性職位，例如銀行出納員、出納員、郵政工作人員和售票員。

「我不會最小化焦慮，因為我認為這是自然的。隨著每一次重大的技術變革，我們都會感到焦慮，其中一些有很多優點，」胡克說。“我認為就如何創建教育計畫並思考如何支援人們使用人工智慧技術的方式進行現實對話很重要。”

2.那我們該如何確保人工智慧模型安全、負責任地部署呢？

世界經濟論壇人工智慧、數據和元宇宙主管兼 C4IR 副主管 Cathy Li 解釋道，為了保障人工智慧的使用，已經做出了一些嘗試。

2023年10月，美國政府發佈人工智慧行政命令，制定新規則以確保人工智慧的安全使用。

同月，七國集團已開發國家也發布了開發先進人工智慧系統的組織的國際行為準則。

英國政府隨後主辦了一次人工智慧高峰會，最終形成了《布萊切利宣言》，呼籲採取多邊行動，利用人工智慧的好處，同時應對其風險。

3.為什麼協作對於安全的人工智慧部署很重要？

2023 年 11 月在舊金山舉行的世界經濟論壇人工智慧治理高峰會上，討論反映了確保人工智慧道德和負責任發展的承諾。

「來自不同領域的與會者強調了人工智慧整合的巨大機遇，同時強調了負責任的發展的迫切需要，並與全球道德標準保持一致。討論了適應性監管框架和統一標準等主題，」李說。

這項活動匯集了監管機構、政府、企業、學術界和其他利益相關者，共同討論人工智慧的挑戰和機會。

「人工智慧為整個社會、政府、公司、社區或個人帶來的轉型機會，只有在公共和私營部門的牢固合作下才能實現。」銷售團隊。

如果我們在考慮人工智慧時以信任和包容為主導，考慮平等、永續性和創新，並真正擁抱利益相關者的成功，我相信我們可以提高標準，改善業務成果、人類成果、社會成果、公民社會成果，並實現最強的登月目標。

「我們需要堅實的立法和公共政策，以促進負責任的創新的方式支援和保護此類技術的發展。

「我們需要更多的多邊和利害關係人體系，」奈爾斯說。

二、縮小數位落差

「人工智慧本身並不是真正可以治理的東西。你可以治理人工智慧可能影響的子效應或部門。如果你具體情況具體分析，這是最好的方法制定某種政策，」迪拜未來基金會首席執行官Khalfan Belhoul 說。

“但最大的挑戰是如何統一這些政策，建立最佳實踐和標準，然後在全球範圍內應用，以確保每個人都能以最好的方式使用人工智慧。”

「AIGA 聯盟可以專注於第一步：在房間裡聽取正確的聲音並製定一項全面的計劃來捕捉所有這些觀點，然後將其轉化為具體行動。

「當你試圖透過這個聯盟來轉變這些行動時，我可能會說，第一個行動將是某種切實的用例或試點項目，可以成為世界的榜樣，你可以逐漸標準化。

「特別是人工智慧，你必須專注於一個特定的領域。例如，我如何影響媒體領域以及我們可以使用什麼類型的內容？我們將如何使用這些內容？一旦完成，你就可以逐漸跳到其他領域， 」貝爾胡爾解釋。

該聯盟與論壇及其峰會的不同之處在於，首先，它們是以社區為基礎的。其次，這些敏捷事件能夠非常及時地採取一些最緊急和必要的行動。

李說：“主要目標之一是確保人工智慧發展的好處惠及已開發國家和發展中國家。”

「彌合數位落差成為一個中心主題，參與者主張更多地存取雲端資料服務和電腦等關鍵基礎設施，以及改善培訓和教育的重要基礎。

「主要結論包括在關於開源和創新的辯論中需要明確的定義和深思熟慮的反思，促進公私合作以實現全球數位資源的獲取，以及透過適應性監管、統一標準和持續的人工智慧治理來推進人工智慧治理。國際討論，」李說。

1.對人工智慧的過度監管會扼殺創新嗎？

在關於人工智慧的政治辯論中，有些人擔心過多的監管可能會扼殺創新，使人工智慧的全部變革潛力無法獲得開發。

Coursera 和DeepLearning 的創辦人吳恩達(Andrew Ng) 表示：「我現在對人工智慧最大的擔憂是，令人窒息的監管將會阻礙這一美好的進步，否則，人工智慧將讓世界各地的許多人過著更健康、更長壽、更充實的生活。」 。人工智慧。

「人工智慧技術非常強大，但它是一種通用技術，這意味著它不僅對一件事有用，例如 ChatGPT 或 Bard。它正在幫助醫療保健系統改善他們處理醫療記錄的方式，你正在處理法律檔更有效率，您正在幫助客戶服務和客戶願望等。

「個人應用程式有風險，需要受到監管：如果你想出售醫療設備，我們要確保它是安全的。如果你製造自動駕駛汽車，你需要對其進行監管。如果你有發放貸款的承銷系統，讓我們確保我們知道如何檢查它沒有偏見。”

2.危險來自對原始技術的監管。

「讓我們將人工智慧與電力進行比較。有許多用例需要考慮——當然，它可以使人觸電，它可以引發危險的火災。但今天，很少有人會因為擔心觸電而放棄供暖、製冷和照明。

「我認為同樣的情況也適用於人工智慧。有許多有害的用例，但我們每天都在讓它變得更安全，並規範應用程式以幫助我們前進。但實施誤導性的法規來減緩人工智慧的技術發展將是一種錯誤的做法。」這是一個大錯誤，吳說。

三、人工智慧的未來

人工智慧發展及其治理的未來將會怎樣？

「世界經濟論壇人工智慧治理高峰會為生成式人工智慧技術的負責任和包容性發展制定了切實可行的計劃，」李凱西說。

「接下來的步驟包括在 2024 年 1 月的達沃斯年會上發布我們的第一份報告來整合和分享這些計畫。

「達沃斯將討論開源和閉源人工智慧模型，以及人工智慧技術的短期和長期風險。

他說：“我們期望這些舉措將指導治理盟友和更廣泛的生態系統內新的合作努力和行動，以確保人工智慧領域負責任和道德的進步。”