Vitalik Buterin 警告开发者，将人工智能添加到区块链时要“小心”

以太坊联合创始人 Vitalik Buterin 警告开发人员在将人工智能 (AI) 与区块链技术融合时要“小心”。

在 1 月 30 日的一篇博客文章中，Buterin 总结了他对人工智能最紧迫的担忧，告诉开发人员“值得谨慎行事”，尤其是在高价值和高风险环境中部署新颖的应用程序时。

“重要的是要小心：如果有人建立了一个使用人工智能预言机的预测市场或稳定币，而事实证明该预言机是可攻击的，那么巨额资金可能会立即消失。”

Buterin 解释说，人工智能具有最高“生存能力”的一个领域是允许人工智能参与微观规模的预测市场等机制，而这对人类来说是不可行的。

Buterin 写道，人工智能还可以用于用户的加密钱包界面，通过解释交易和签名或检测诈骗来帮助他们理解加密并安全地与加密交互。

“我个人的观点是，目前纯粹的人工智能界面可能风险太大，因为它会增加其他类型错误的风险，但人工智能补充更传统的界面变得非常可行，”他说。

加密+人工智能应用的前景和挑战：https://t.co/ds9mLnshLU

—vitalik.eth (@VitalikButerin) 2024 年 1 月 30 日

在 Buterin 看来，最危险的尝试是利用人工智能来执行加密系统的规则或治理，因为开源人工智能模型可能容易受到对抗性攻击。

开源人工智能更容易受到对抗性攻击，因为恶意行为者可以检查其代码并优化针对它的攻击。

他说，闭源人工智能提供了“默默无闻的安全性”，然而，这些模型没有提供其工作方式的透明度，也没有保证它们的公正性。

与 OpenAI 相邻的加密初创公司 Worldcoin 是闭源人工智能的一个例子，Buterin 解释说，它依赖于“不让任何人简单地调用人工智能模型”，而是使用“可信硬件”。

相关：

Buterin 解释说，最大的挑战是使用其他应用程序可以利用的加密货币和区块链创建去中心化人工智能。

“最难解决的问题是尝试使用区块链和加密技术创建“单例”的应用程序：某些应用程序出于某种目的而依赖的单一去中心化可信人工智能。”

他说，这些应用程序有望“在功能上和提高人工智能安全性方面，避免与更主流的解决该问题的方法相关的集中化风险”。

他的结论是，潜在的假设在很多方面都可能失败。

杂志：

热点：区块链 人工智能 开发者