首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-04
丰立智能:上半年归母净利润322.44万元,同比下降68.79%官方处理结果 中化装备跌9.18%,上榜营业部合计净买入430.68万元秒懂 招商金控,换帅!后续来了 卫星化学已回购1208万股 金额2.18亿元最新报道 正和生态已回购60万股 金额490万元官方已经证实 中化装备跌9.18%,上榜营业部合计净买入430.68万元 浙能电力:虞国平辞去第五届董事会董事、董事长职务 正海生物:上半年净利润4648.57万元反转来了 正和生态已回购60万股 金额490万元后续反转 美克家居:累计回购179万股反转来了 里昂:首予心动公司“跑赢大市”评级 目标价60港元是真的? 南京银行:股东南京高科增持751万股 持股增至9%后续会怎么发展 ST联创回购1210万股 成交金额5019万元 正和生态已回购60万股 金额490万元 宏微科技:累计回购约120万股官方通报 里昂:首予心动公司“跑赢大市”评级 目标价60港元 浙能电力:虞国平辞去第五届董事会董事、董事长职务是真的吗? 凌钢股份:累计回购394.54万股科技水平又一个里程碑 秒懂 山金国际发生3笔大宗交易 合计成交8954.54万元 硅宝科技股东引领资本增持493万股完毕 资金7746万元 丰立智能:上半年归母净利润322.44万元,同比下降68.79% 中化装备跌9.18%,上榜营业部合计净买入430.68万元专家已经证实 卫星化学:累计回购约1208万股实时报道 通富微电发生16笔大宗交易 合计成交8473.74万元官方通报来了 宿迁联盛股东方源智合减持60万股是真的吗? 汉商集团振幅15.56%,上榜营业部合计净卖出3426.44万元实时报道 诺和诺德的困境对丹麦经济构成严重威胁 无论业绩好坏,美国消费股都在跌!高盛看不懂:为何“逢低抛售”? 时代电气助力国内首套宽幅高速硅钢酸连轧机组成功投产学习了 特朗普关税令瑞士投资者震惊,等待周一市场开盘后续来了 吴声:“新平衡主义”是时代的命题,是健康生活的方法论最新进展 时代电气助力国内首套宽幅高速硅钢酸连轧机组成功投产 业绩分化显著!A股130多家上市公司中报出炉,最高净利暴增超20倍后续反转来了 吴声谈宗庆后遗产纠纷:这些狗血绝对不是他所乐见秒懂 欧洲央行的帕察利德斯称,尽管面临贸易困境,欧元区经济仍具韧性官方通报来了 300264,筹划控制权变更!停牌!后续会怎么发展 双良节能“氢”装启动后续会怎么发展 万亿宁德时代与百亿海辰储能恩仇录:2年打4个官司后续反转来了 万亿宁德时代与百亿海辰储能恩仇录:2年打4个官司官方已经证实 世运会消息催化机构接棒热炒,天府文旅股价翻倍科技水平又一个里程碑 世运会消息催化机构接棒热炒,天府文旅股价翻倍又一个里程碑

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章