為什么人工智能治理很重要

從人工智能治理的角度來看，你所做的事情可以確保你的客戶、合作伙伴和市場信任你。如果你在社交媒體上和朋友聊得很開心，然后你知道的下一件事就是你被推薦或者收到某人的電子郵件，因為他們在跟蹤你的談話——我不知道你怎么樣，但我不喜歡這樣。它不會灌輸信任。

你不想采用給顧客帶來那種體驗的做法。你的合作伙伴對你的體驗以及整個市場的體驗也是如此。你希望他們能夠信任來自你的機器學習和人工智能能力的見解，而不會經歷負面事件。

人工智能風險和安全

人工智能風險和安全組織，即AIRS，一個非正式的從業者團體，已經將人工智能風險分為四個不同的類別。首先是與數據相關的風險。

眾所周知，人工智能模型的好壞取決于用來訓練它們的數據。數據的局限性之一是，你可能沒有模型將要看到的每一個實例的數據，所以你的模型有很大的學習局限性。此外，我們都聽說過“垃圾進，垃圾出”我還沒有遇到過沒有某種數據衛生問題的企業客戶。

下一個風險是壞演員。有一些人期待游戲人工智能系統，還有一些人可能會發起數據中毒攻擊。其他風險是參與者可以用來推斷關于訓練數據的私人信息的技術。最后，有些壞演員會試圖竊取你的模型來弄清楚它們是如何工作的——例如，竊取你的欺詐檢測模型，這樣他們就可以學會打敗它。

即將出臺的新規章制度

即將到來的最大的新法規之一，可能在2024年，是歐洲的人工智能法案，它創建了一個等級，將一些人工智能用例評為不可接受的風險，其他人為高風險，其他人為有限風險，其他人為最小風險。高風險人工智能將被禁止，包括大規模監控、操縱導致傷害的行為和社會評分等用例。高風險活動將需要評估，包括獲得就業、教育和公共服務、車輛安全部件和執法。有限風險的人工智能活動需要透明，它們包括模仿、聊天機器人、情感識別和深度假貨。任何其他的都可以歸類為最小風險，并且對企業沒有任何責任。

在美國，規則相當不同。美國國家標準與技術研究所發布了一個擬議的人工智能治理框架，但它不是強制性的。珀塞爾說，這份草案的形式側重于如何幫助公司確保以負責任的方式創造人工智能，他認為它側重于培養風險管理的文化。

此外，今年發布了一項人工智能權利法案，該法案不具有約束力，但它表明了拜登政府在人工智能法規方面將采取的方向。其中的關鍵部分是隱私的重要性，以及讓人類做出關鍵決定而不是依賴人工智能/自動化的重要性。

跨企業的人工智能治理

一個堅實的人工智能治理實踐將需要跨越整個組織，以便它能夠在這個涉及隱私的法規日益成熟、客戶日益復雜的新時代中導航。根據說法，這項工作需要包括人工智能領導者、業務領導者、數據工程師、法律/合規專家、數據科學家和解決方案工程師。這個小組的每個成員對人工智能實踐都有不同程度的興奮或關注。