如何管理人工智能風險和安全？在大多數(shù)組織中，人工智能模型是“黑匣子”，只有數(shù)據(jù)科學家知道人工智能到底做什么。這可能會給組織帶來重大風險。

大型、敏感的數(shù)據(jù)集經(jīng)常被用于訓練AI模型，從而產(chǎn)生隱私和數(shù)據(jù)泄露風險。人工智能的使用增加了組織的威脅向量，并擴大了其攻擊面。人工智能進一步為良性錯誤創(chuàng)造了新的機會，對模式和業(yè)務結果產(chǎn)生不利影響。不了解的風險無法減輕。Gartner最近對首席信息安全官的一項調查顯示，大多數(shù)組織沒有考慮到人工智能帶來的新的安全和業(yè)務風險，或者他們必須采取新的控制措施來降低這些風險。人工智能需要新型風險和安全管理措施以及緩解框架。以下是安全和風險領導者應該關注的五大優(yōu)先事項，以有效管理其組織內的人工智能風險和安全:1、捕捉AI暴露程度機器學習模型對大多數(shù)用戶來說是不透明的，并且與一般的軟件系統(tǒng)不同，它們的內部工作原理甚至連最熟練的專家都不知道。數(shù)據(jù)科學家和模型開發(fā)人員通常理解他們的機器學習模型試圖做什么，但他們不能總是破譯模型處理數(shù)據(jù)的內部結構或算法手段。這種理解能力的缺乏嚴重限制了組織管理AI風險的能力。人工智能風險管理的第一步是列出組織中使用的所有人工智能模型，無論它們是第三方軟件的組件、內部開發(fā)或通過軟件即服務應用程序訪問。這應該包括識別各種模型之間的相互依賴關系。然后根據(jù)運營影響對模型進行排序，并考慮到風險管理控制可以根據(jù)確定的優(yōu)先級逐步應用。一旦模型被列出，下一步就是使它們盡可能的可解釋或可解釋性。“可解釋性”意味著產(chǎn)生細節(jié)、原因或解釋的能力，為特定的受眾闡明模型的功能。這將為風險和安全管理者提供管理和減輕由模型結果帶來的業(yè)務、社會、責任和安全風險的環(huán)境。2、通過人工智能風險教育活動提高員工意識員工意識是人工智能風險管理的一個重要組成部分。首先，讓所有參與者，包括CISO、首席隱私官、首席數(shù)據(jù)官以及法律和合規(guī)官，重新調整他們對AI的心態(tài)。他們應該明白，人工智能“不像任何其他應用程序”——它會帶來獨特的風險，需要特定的控制來減輕此類風險。然后，與業(yè)務利益相關者聯(lián)系，以擴大對需要管理的AI風險的認識。與這些利益相關者一起，確定跨團隊和隨著時間的推移構建AI知識的最佳方式。例如，看看是否可以在企業(yè)的學習管理系統(tǒng)中添加一門關于基本AI概念的課程。與應用程序和數(shù)據(jù)安全部門合作，幫助在所有組織成員中培養(yǎng)AI知識。3、通過隱私計劃消除人工智能數(shù)據(jù)暴露根據(jù)Gartner最近的一項調查，隱私和安全一直被視為人工智能實現(xiàn)的主要障礙。采用數(shù)據(jù)保護和隱私程序可以有效地消除AI內部和共享數(shù)據(jù)的暴露。有一系列方法可以用于訪問和共享基本數(shù)據(jù)，同時仍然滿足隱私和數(shù)據(jù)保護要求。確定哪種數(shù)據(jù)隱私技術或技術組合，對組織的特定用例最有意義。例如，調查諸如數(shù)據(jù)屏蔽、合成數(shù)據(jù)生成或差分隱私等技術。在向外部組織導出或導入數(shù)據(jù)時，應滿足數(shù)據(jù)隱私要求。在這些場景中，像完全同態(tài)加密和安全多方計算等技術，應該比保護數(shù)據(jù)不受內部用戶和數(shù)據(jù)科學家的影響更有用。4、將風險管理納入模型運營AI模型需要特殊用途的流程作為模型操作或ModelOps的一部分，以使人工智能可靠且高效。隨著環(huán)境因素的不斷變化，AI模型必須持續(xù)監(jiān)測業(yè)務價值泄漏和不可預測的(有時是不利的)結果。有效的監(jiān)控需要對AI模型的理解。專門的風險管理流程必須成為ModelOps的一個組成部分，以使AI更值得信任、準確、公平，并對對抗性攻擊或良性錯誤更有彈性?？刂拼胧摮掷m(xù)應用——例如，貫穿模型開發(fā)、測試和部署以及持續(xù)運營的整個過程。有效的控制將檢測到惡意行為、良性錯誤和AI數(shù)據(jù)或模型的意外變化，這些變化會導致不公平、損壞、不準確、模型性能和預測不佳，以及其他意想不到的后果。

5、采用人工智能安全措施應對對抗性攻擊檢測和阻止對人工智能的攻擊需要新的技術。對AI的惡意攻擊可能導致重大的組織損害和損失，包括財務、聲譽或與知識產(chǎn)權、敏感客戶數(shù)據(jù)或專有數(shù)據(jù)相關的數(shù)據(jù)。與安全部門合作的應用程序負責人必須在他們的AI應用程序中添加控制，以檢測異常數(shù)據(jù)輸入、惡意攻擊和良性輸入錯誤。圍繞AI模型和數(shù)據(jù)實施一整套傳統(tǒng)的企業(yè)安全控制，以及針對AI的全新完整性措施，如容忍對抗性AI的訓練模型。最后，使用欺詐、異常檢測和機器人檢測技術，防止AI數(shù)據(jù)中毒或輸入錯誤檢測。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。