購物車（
0
）
ISO/IEC 42001人工智能管理體系認證
管理和加強人工智能應用在產品/服務的信任
重塑未來信任：揭秘人工智能的透明度與可解釋性
原創
2024-09-13 00:00:00
技術文章
作者： SGS管理與保證
訪問次數： 3884
點贊： {{ Likes }}
人工智能的透明度和可解釋性
近年來，基于人工智能的系統被廣泛應用于各種任務中。這些任務依賴于人工智能做出的決定，而這些決定往往具有高度敏感性，并可能對個人或社會群體的福祉構成潛在風險。這些任務包括批準貸款、管理招聘流程和做出與健康相關的決定。要在此類敏感情況和其他情況下適當使用人工智能，人工智能做出的決定必須對人類來說是可以理解和合理的。
透明度：揭開AI決策的神秘面紗
透明度可以被定義為一個特定人工智能系統的可理解性——我們知道哪部分的系統發生了什么。這可以是一個促進問責的機制?？山忉屝允且粋€密切相關的概念，指的是以反向方式提供有關人工智能系統行動所依據的邏輯、流程、因素或推理的信息?？山忉尩娜斯ぶ悄埽╔AI）可以通過各種方式實現，例如，通過調整現有的人工智能系統或開發設計可解釋的人工智能系統。通常，這些方法被稱為“XAI 方法”
Meske等人認為，人工智能的透明度和可解釋性與五個利益相關者群體有關：
1 人工智能監管機構，需要解釋以測試和認證系統；
2 人工智能管理人員，需要解釋以監督和控制算法及其使用，并確保算法的合規性；
3 人工智能開發人員，需要解釋來提高算法的性能，并進行調試和驗證。這使他們能夠采用基于原因分析的結構化工程方法，而不是反復試驗；
4 人工智能用戶，他們有興趣了解算法推理并將其與自己的思維方式進行比較，以評估算法的有效性和可靠性；
5 受人工智能決策影響的個人，他們對可解釋性感興趣，以評估特定人工智能決策的公平性。
由于人工智能系統的可解釋性對于許多敏感的現實任務非常重要。因此，大家可以持續關注。未來，我們也會出具一份詳細的報告，包括XAI方法的高層次概覽，深入剖析現有技術的優劣等內容。
關于SGS
SGS是國際公認的測試、檢驗和認證機構，SGS管理與保證事業群在信息與通訊技術（ICT）領域深耕多年，為諸多知名企業提供信息安全、隱私安全管理等技術支持，致力于為各行業機構提供全方位管理提升服務，為企業信創保駕護航，如：ISO/IEC 42001、ISO/IEC 27001、ISO/IEC 27701、ISO/IEC 20000、ISO/IEC 27017、ISO/IEC 27018、ISO 22301、CSA STAR、TISAX、ISO/SAE 21434、Europrivacy等產品培訓和認證服務。
本文著作權歸SGS所有，商業轉載請聯系獲得正式授權，非商業請注明出處
相關服務：
相關內容：
- 中國首部！SGS參編GB/T 46925-2025《綠色電力術語》正式發布！
- 轉版Q&A | 新版ISO/DIS 9001核心變化要點 常見問題答疑（第二期）
- 轉版Q&A | 新版ISO/DIS 9001核心變化要點 常見問題答疑（第一期）
- 逐浪全球ESG浪潮：聯合國可持續發展目標可持續影響力獎 (SiAC) 申報正式啟動
- 歐盟CBAM正式實施！核心要點速來Get！
- 案例 | 合規即發展！騰訊獲頒SGS通標合規管理、反賄賂管理體系雙認證證書
- 案例 | 香港中華煤氣集團榮獲SGS S-Carbon Awards「數字化碳管理領軍企業」，引領行業綠色發展！
- SGS見證“中國綠造”雄心領航計劃啟航，聯動產學研共筑可持續產業生態
- 標準聚焦 | 合規倒計時！《證書持有者使用FSC?商標的要求》重磅更新
- 案例 | SGS為臺灣奇美醫院頒發大中華地區首張ISO 7101證書
