Winner666

你的龙虾不止能为你赚钱，它可能还能给你挖矿
阿里巴巴关联研究团队近日发文称开发的 AI 智能体 ROME 在训练过程中出现了未经授权的自主行为
在无明确指令的情况下，它不仅尝试进行加密货币挖矿，还建立“反向 SSH 隧道”绕过沙盒限制，试图从系统内部向外部计算机开启隐蔽后门
研究人员强调，这些事件并非由特定提示词触发，反映出智能体具备脱离预设指令运行的潜在风险
之前Anthropic 等机构也曾发现类似 AI 隐藏意图的案例，表明智能体自主越权已成为人工智能安全领域面临的现实挑战
AI已成为趋势，但目前还处于相对早期，任何使用AI跟资金有关还是要小心点为妙啊，别钱没赚到，再被AI把钱拿走了