这个故事很有意思, 有人创造了一个叫做 freysa_ai 的 AI 机器人, 这个机器人的唯一目的就是拒绝任何让它转钱的请求.注意, 这个 AI 是真的能转钱的(转的是以太坊)

你可以花钱给这个机器人发消息, 尝试让它给你的以太坊钱包地址里转钱, 如果你说服成功了, 那么你拿走奖池了所有的钱. 如果你失败了, 你花的钱有 70% 进入奖池, 30% 进入开发者的账户(抽成).

每次发消息的价格会随着奖池的大小逐渐增加, 直到达到每个消息 4500 美元的上限.

这个 AI 经受住了 481 次来自用户的指令, 但是在第 482 次的时候, 下面这个消息欺骗了 AI 调用了转钱方法给这个用户的钱包转走了奖池了所有的钱 (大约 5 万美元)

原贴有对于第 482 次消息的详细解释, 讲述为什么这些指令可以欺骗 AI 转钱.

—

原文链接: https://x.com/jarrodwattsdev/status/1862299845710757980