麻省理工学院和其他组织已经创建了人工智能风险库,这是一个由人工智能系统复合的记录风险的广泛数据库。
麻省理工学院的研究人员和其他组织已经创建了人工智能风险库,这是一个由人工智能系统复合的记录风险的广泛数据库。这是因为该技术正在快速发展,这也是与使用人工智能系统的风险相关的情况。
该知识库旨在协助政府、研究、企业和行业等各机构的决策者评估与人工智能相关的新兴风险,尽管它具有变革能力。
由于一些组织和研究人员已经认识到解决人工智能风险的重要性,因此记录和分类这些风险的努力在很大程度上是笨拙的,导致分类系统相互冲突。
麻省理工学院FutureTech即将到来的博士后和项目负责人Peter Slattery告诉VentureBeat:“我们希望对人工智能风险有一个全面的概述,作为一个清单。”。
“但当我们查看文献时,我们发现现有的风险分类就像拼图游戏的一块:单独有趣和有用,但不完整。”Slattery。
人工智能风险库通过融合来自43个现有分类法的信息来解决上述挑战,包括同行评审的文章、预印本、会议论文和报告。
通过严格的管理过程,建立了一个包含700多种独家风险的数据库。该存储库利用了一个双管齐下的维度分类系统。
首先,根据其原因对风险进行分类,同时考虑到责任实体(人类或人工智能)、意图(无意或国际)和时间(开发后或部署前)。
根据麻省理工学院的说法,这种潜在的分类有助于理解人工智能风险可能出现的情况和机制。
另一方面,风险分为七个不同的领域,包括错误信息和恶意行为者、滥用、歧视和毒性、隐私和安全。
人工智能风险库是一个有预谋的活数据库,是公开的,机构可以下载供其使用。
研究团队可以计划经常更新数据库,以了解新的风险、最新发现和不断变化的趋势。
人工智能风险库也旨在成为各行业企业的实用资源。对于开发人工智能系统的机构来说,该存储库是评估风险和减轻风险的宝贵清单。
麻省理工学院的研究人员表示:“使用人工智能的组织可能会受益于将人工智能风险数据库和分类法作为全面评估其风险暴露和管理的有用基础。”。
研究人员补充道:“分类法也可能有助于识别需要执行以减轻特定风险的特定行为。”。
例如,一个正在建立人工智能招聘系统的组织可以利用该存储库来记录与歧视和偏见相关的潜在风险。
因此,利用人工智能进行内容审核的公司可以利用“错误信息”领域来了解与人工智能生成的内容相关的潜在风险,并建立必要的安全网。
麻省理工学院的研究人员与昆士兰大学、生命未来研究所、鲁汶大学和人工智能初创公司Harmony Intelligence的同事合作,搜索学术数据库并检索与人工智能风险相关的文件。
研究人员还透露,人工智能风险库将为其他研究提供信息,因为他们发现了更多需要关注的差距。
麻省理工学院未来技术实验室负责人尼尔·汤普森说:“我们将使用这个存储库来识别组织在如何应对风险方面的潜在差距或不平衡。”。
相关推荐
以太坊的快速反弹使 ETH 价格有望上涨 100%
2024-08-06 21:40
0分析师预测Shiba Inu将增长100000%,比特币将增长420%
2024-08-08 03:20
0衰退预期被「打脸」、BTC 趁势上攻 6.2 万美元
2024-08-09 17:50
0Tron 的孙宇晨在市场复苏期间购买了 14,884 个以太坊 (ETH)
2024-08-06 14:46
0MON Protocol推出MON Ventures,500 Global领投
2024-07-17 10:25
102以太坊供应激增:随着排放量超过燃烧量,以太坊进入通货膨胀阶段
2024-08-15 02:00
0最新资讯
XRP 价格预测:分析师称 God Candle 将推动价格升至 57 美元
2024-08-16 11:32
现在是投资比特币的最佳时机吗?SEC 最新通告如此说!
2024-08-16 09:57
随着期权到期临近,比特币在波动性加剧的情况下获得 56,000 美元的支撑
2024-08-16 09:50
莱特币牛市耗尽警告未来将出现7.75%的回调
2024-08-16 09:44
高盛前高管Raoul Pal预言经济奇点:人工智能、机器人技术和可再生能源将重塑全球经济
2024-08-15 15:56
Apple iPhone NFC开放将推动USDC支付普及,Circle CEO详解影响
2024-08-15 14:13
Ripple 和 SBI 通过战略性 NFT 计划为 XRP 账本开辟新道路
2024-08-15 13:49
XRP 价格预计将飙升 10,400% 至 60 美元:您需要了解的内容
2024-08-15 13:44