Anthropic为道德黑客提供1.5万美元的奖金,用于识别关键的人工智能漏洞,为人工智能安全制定新的透明度标准
亚马逊支持的人工智能初创公司Anthropic推出了一项漏洞赏金计划,并将为每份发现其人工智能系统关键弱点的报告支付高达15000美元。该倡议是任何使用高级语言模型众包安全测试的公司所做的最广泛的努力之一。
据该公司称,赏金针对的是“普遍越狱”攻击,这种方法可以绕过生物武器和网络威胁等领域的人工智能安全措施。在向公众提供下一代安全缓解系统之前,Anthropic计划允许道德黑客对其进行测试,以防止潜在的滥用。
我们正在扩大我们的漏洞赏金计划。这项新举措的重点是在我们的下一代安全系统中找到通用的越狱。我们为包括网络安全在内的广泛领域的新漏洞提供奖励。https://t.co/OHNhrjUnwm——人类学(@AnthropicAI)2024年8月8日
Anthropic的漏洞赏金计划最初是与HackerOne合作开展的一项仅限受邀者的计划,该计划希望网络安全研究人员具备识别和修复其人工智能系统漏洞的技能。该公司计划在未来更广泛地开放它,有可能提供一种全行业人工智能安全合作模式。
与此同时,英国竞争与市场管理局(CMA)正在调查亚马逊对Anthropic 40亿美元的潜在竞争问题投资。在监管审查日益严格的背景下,关注安全可以提高Anthropic的声誉,使其与竞争对手区别开来。
虽然OpenAI和谷歌也有漏洞赏金计划,但它们主要关注传统的软件漏洞,而不是人工智能特有的漏洞。Meta因采取了一些人认为相对封闭的研究方法来确保越来越智能的机器的安全开发而受到批评。通过明确针对这些问题并邀请外部对其进行审查,Anthropic为该行业的开放树立了先例。
然而,人们怀疑仅靠漏洞赏金能否有效解决与保护先进机器学习系统相关的所有问题。虽然对于识别和修补特定缺陷很有价值,但它们可能无法应对围绕人工智能对齐和长期安全的更广泛挑战。可能需要一个更全面的战略,包括广泛的测试、改进的可解释性和潜在的新治理结构,以确保人工智能系统在变得更加强大时与人类价值观保持一致。
相关推荐
SunPump 助力 Tron 24 小时收入超越以太坊
2024-08-22 15:20
2尽管双子座退市,LUNC仍有望实现600%的突破——方法如下!
2024-08-23 00:10
2以太坊(ETH)和 Toncoin(TON)鲸鱼正在秘密囤积这种具有 11 倍增长潜力的代币
2024-08-26 16:03
3以太坊低迷处境下折射Web3发展困局
2024-08-13 22:00
0花旗银行上调Coinbase评级至买入 目标价大幅上调至345美元
2024-07-24 14:09
3DeFinity Markets获得泽西岛数字资产平台批准,着眼于机构增长
2024-08-20 01:10
2最新资讯
尽管活跃账户数降至年初至今的低点,以太坊交易费用仍大幅上涨
2024-09-23 15:55
美国起诉两人在2.6亿美元比特币盗窃和洗钱计划中的罪行
2024-09-23 15:41
Diamond Hand 巨鲸大规模转账 15,000 ETH,震惊 Kraken
2024-09-23 15:28
BRICS 击败美元依赖:本币结算超过美元支付
2024-09-23 15:24
以太坊即将走向终结?智能合约背后的现实和 ETH 的未来
2024-09-23 15:00
全球 M2 和比特币:BTC 会跟进吗?
2024-09-23 14:56
Diamond hands 以太坊持有者两年内赚了 1.317 亿美元
2024-09-23 14:21
资深分析师预测到 2025 年比特币兑黄金价格将上涨 400%
2024-09-23 14:06