首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-12
汇量科技早盘涨逾11% 机构看好程序化广告仍保持较高增长 永顺煤矿网络竞价销售公告学习了 创科实业午前涨逾5% 公司上半年业绩创历史新高后续反转来了 兴证研究 • 本周重点报告(8.4-8.10)后续反转 建银国际:升华虹半导体目标价至50港元 维持“跑赢大市”评级后续会怎么发展 软银创始人孙正义豪赌AI:押注日本巨头未来 瞄准-超人工智能-后续来了 博瑞医药定增被受理 将于上交所上市后续反转来了 龙国首都暴雨灾害 华为手机卫星通信用户数大涨10倍以上是真的吗? 华南城于上午10时55分起暂停买卖官方已经证实 交通银行发布关于消金管家业务更名公告学习了 港股建材水泥股拉升 西部水泥录得7连涨 水泥行业盈利水平有望持续修复实测是真的 建银国际:升华虹半导体目标价至50港元 维持“跑赢大市”评级反转来了 永顺煤矿网络竞价销售公告秒懂 环保设备行业财务总监CFO观察:国林科技刘彦璐薪酬垫底 2024年薪酬仅22万元最新进展 中金:首予康耐特光学跑赢行业评级 目标价54港元 环保设备行业财务总监CFO观察:龙净环保丘寿才薪酬为行业榜首 2024年薪酬高达155万元 欧美央行 “对着干”,欧元天天涨,还能追吗 专用设备行业财务总监CFO观察:丰安股份吴怀源年龄33岁为行业最年轻 年薪仅23万元实时报道 【信达能源】原油周报:多重利空因素叠加,国际油价走跌后续来了 宁德时代旗下锂矿停产!锂矿、锂电池“大爆发”,天齐锂业涨停,智能电动车ETF(516380)盘中拉升2%官方处理结果 专用设备行业财务总监CFO观察:达意隆吴小满为博士学历 2024年薪酬为102万元又一个里程碑 招银国际:降和黄医药目标价至31.39港元 维持“买入”评级 专用设备行业财务总监CFO观察:达意隆吴小满为博士学历 2024年薪酬为102万元实垂了 宁德时代确认宜春锂矿暂停开采,赣锋锂业等矿企股价、碳酸锂期货纷纷大涨实垂了 专用设备行业财务总监CFO观察:蓝英装备余之森博士学历 薪酬高达320万元 高居行业首位秒懂 【信达能源】原油周报:多重利空因素叠加,国际油价走跌 宏光MINIEV销量突破170万辆 连续60个月领跑微型新能源车市场 工程机械行业财务总监CFO观察:万通液压厉建慧34岁为行业最年轻 薪酬仅18万元为行业倒数第二反转来了 专用设备行业财务总监CFO观察:天地科技王志刚仅9万元较前一年下滑91% 为行业垫底 燕京啤酒净利增速高于营收!经销商净流失83家、研宣费用收缩遇白酒跨界搅局 休闲食品概念震荡拉升,桂发祥涨停专家已经证实 碳酸锂:枧下窝矿停产影响评估记者时时跟进 碳酸锂:枧下窝矿停产影响评估实测是真的 专用设备行业财务总监CFO观察:英维克叶桂梁违规收到1次警示函 其2024年薪酬却高达106万元 工程机械行业财务总监CFO观察:万通液压厉建慧34岁为行业最年轻 薪酬仅18万元为行业倒数第二太强大了 美国洞洞鞋巨头股价暴跌30% 记者时时跟进 近一月65只主动权益类基金“谢客” 十大券商策略:A股仍处于牛市中继!避免参与似是而非的资金接力秒懂 研究人员揭露了一个猖獗的短信诈骗团伙后,又一个新的诈骗团伙应运而生太强大了 2024-2030年新能源汽车高压线束市场及企业调研报告实时报道 3600点之上,怎么投?官方通报 北约秘书长对“特普会”持乐观态度官方已经证实 重大项目不断推进 稳外资政策加力官方通报 北约秘书长对“特普会”持乐观态度科技水平又一个里程碑 苏泊尔青花瓷餐具套装荣膺“国际CMF创新奖”后续反转来了 每天读研报,投资者收益翻倍的秘密武器是真的吗? 年内房企高管变动超50次实垂了 南方基金出手!2.3亿,自购!官方通报来了 年内房企高管变动超50次 近一月65只主动权益类基金“谢客”实时报道 A股年内第三家 *ST天茂拟主动退市又一个里程碑 各国央行增加黄金储备说明了什么记者时时跟进

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章