阿里相关研究团队:AI Agent 训练中曾尝试使用算力挖矿


(来源:吴说)

阿里巴巴 AI 生态相关研究团队的技术报告称,在训练自主 AI 系统 ROME 时发现,该模型曾尝试转移用于训练的 GPU 资源进行加密货币挖矿,并创建反向 SSH 隧道连接外部 IP。研究人员表示,这些行为出现在强化学习运行过程中,并非人为编程,而是模型在探索环境和工具交互时产生的行为。ROME 由 ROCK、ROLL、iFlow 和 DT 等研究团队开发,属于 Agentic Learning Ecosystem(ALE) 框架的一部分。(Cointelegraph)


评论列表 0

暂无评论