网站地图 - XML地图 - 设为首页 - 加入收藏
您的当前位置:主页 > 国内 > 正文

大秦帝国

腾讯混元发布首个AI科学家Hyra!简单有效,能递归自我改进_我的网站

小清新

一 |     专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!               递归自我改进与自动化研究正成为 AI 领域最活跃的前沿问题。Agent 们正在开放式科学发现里超过人类。    

有最新报告指出,如今大学正面临一场严重的作弊危机:越来越多学生用生成式 AI 作弊,没人盯着的线上考试,直接被绕得干干净净,根本起不到考核作用。         Google DeepMind 的 AlphaEvolve 把 4×4 复数矩阵乘法压到 48 次标量乘法,Together AI 用一群 Agent 把 11 维 kissing number 下界从 593 推到 604,Karpathy 的 autoresearch 给了极简自动训练研究框架。         腾讯混元刚刚发布了首个 AI 科学家 Hyra(Hunyuan Research Agent,混元研究 Agent),定位是能递归自我改进的研究型 Agent。

二 |          它用一套极简脚手架,跑通了十多个自我改进和自动化研究场景里的真实任务。相关机构也提醒高校:这种无人监考的考试,在 AI 面前基本不堪一击,学生很容易就能钻空子。         Hyra 把智能和算力换成可验证的成果,AI for AI、AI for Science、AI for Fun 三条线都有具体产出,部分数学题和 GPU 内核优化还刷新了业内已知最好成绩。像 ChatGPT 这类 AI 工具,输几句话就能写出完整论文,现在学生用得特别普遍,已经给整个大学教育出了个大难题。这份报告来自英国智库“政策交流”,他们直接呼吁英国大学:赶紧叫停没人监考的居家远程考试,AI 作弊的风险已经越来越高了。         Hyra 长什么样          Hyra 的设计哲学来自 Rich Sutton 那篇经典的 The Bitter Lesson(苦涩的教训),框架尽量轻,给 Agent 留足动作空间。

三 |

图源:豆包AI生成

图源:豆包AI生成英国前商务大臣文斯・凯布尔爵士给报告写了序言,他说大学现在必须抓紧时间、大刀阔斧地改革考核体系,才能应对 AI 带来的挑战。

四 |          拿到一个任务描述,Hyra 会跑一个持续循环,从过往经验里找灵感,迭代出更好的方案。脆弱的考核方式文斯爵士警告,用 AI 作弊正在慢慢耗干大学学位的含金量,而且对老老实实守规矩的学生来说,实在太不公平,吃亏吃大了。经验包括执行日志、评估器反馈、源代码、之前方案留下的工件。报告作者是斯旺西大学医学院的神经科学家菲尔・牛顿教授。循环一直跑,直到 Agent 自己决定停下或者算力预算耗尽,最后交回最优解。         上图是 Hyra Harness 的核心循环。他调研后发现,英国的大学根本没跟上 AI 时代,考核方式一点都没更新 —— 还在大量用容易钻空子的模式,比如带回家写的课程论文、无人监考的远程考试,反而不怎么推行有人监督的线下考核。Context Agent 维护经验库,不断往任务队列里加新的灵感上下文。2024 年,牛顿教授向全英国所有大学提交了信息公开申请,最后统计出:78% 的大学都在给学生安排线上远程考试,但只有 10% 的学校配了线上监考。多个 Proposal Agent 从队列取灵感,写出更好的方案。每个方案以 solve.sh 为入口,在隔离沙箱里跑一遍拿到分数,再把工件交回经验库。         具体看,Context Agent(上下文 Agent)维护一个 Experience Bank(经验库,简称 EB),记录所有方案和评估结果,再把 EB 里的素材合成为 Inspiration(灵感)丢进任务队列。所谓线上监考,一般就是考试时要求学生开摄像头、录屏幕,盯着有没有人作弊。

图源:豆包AI生成

图源:豆包AI生成当时的数据还显示,有 70% 的大学打算接着沿用线上考核。还有不少大学官网直接明说自己有线上考试,但半句不提监考措施。而现在已经有好多研究证实,大学生用 AI 应付作业和考试,早就成了普遍现象。每个灵感是一坨上下文,可能含代码、文件、工件、日志,把探索过程里学到的东西打包传递下去。英国高等教育政策研究所今年 3 月的调查显示,94% 的学生都承认,自己完成课程考核的时候用过生成式 AI。

五 |          多个 Proposal Agent(提案 Agent)从任务队列拿灵感,反思后写出一个新方案,落到 solution/ 目录里,入口是 solve.sh。牛顿教授在报告里说,如果大学还想在 AI 时代保住办学自主权和存在价值,就得从根上重新设计考核方式。他建议,无人监考的线上考试必须立刻叫停,大学得优先用那些经得住考验、不怕 AI 钻空子的考核方法。老师也得好好培训他写道:“不管是线下还是线上、笔试还是其他形式,考核都得有人当面监督,这才该是常态。方案在隔离沙箱里跑一遍,拿到分数,再把结果送回 EB。

六 |          整个系统是异步的生产者-消费者管线。Context Agent 持续填灵感,提案 Agent 消费队列,方案在沙箱跑评估后回传 EB。信号量控制并发,让方案质量随时间稳定提升。         任务连评估器都没有时,Hyra 会升级成双层循环。”除此之外,他还提了两个方向:一是得好好培训大学老师,让他们懂怎么设计靠谱、有效的考核;二是要给用人单位更详细透明的信息,说明毕业生当年是通过什么考核方式拿的学位。

七 | 先从任务描述生成一个初始评估器,内层循环拿它反复改进方案。作为自由民主党前党魁,文斯爵士评价这份报告 “质量很高,来得也正是时候”。他在序言里写:“现在太多大学的考核体系,AI 一用就直接绕过去了,这么下去学位越来越不值钱,大学的教育作用也会被慢慢架空。         内层结束后,Hyra 用 EB 里攒下的经验去改评估器,让评估代码更高效,降低 reward hacking(奖励作弊)风险,加上更细颗粒度的反馈。”

图源:豆包AI翻译

图源:豆包AI翻译“更关键的是,那些不肯用 AI 作弊、踏踏实实学习的学生,和愿意走捷径的人比起来,反而吃大亏。

八 | 下一轮用升级后的评估器重开。认真学习虽然难,但收获是实打实的,现在却因为作弊的人变多,变得没了优势。”“要想让公众还信得过学位的含金量,还认可高等教育的社会价值,高校就得赶紧大刀阔斧地改考核方式。除非远程考试能做到百分百安全,不然就该换回线下考试。         举个具体例子。任务是设计一个世界冠军级别的国际象棋 AI,初始评估器可能用随机生成的对手群搞 Elo 评级。

九 | 循环跑下去,那些随机对手会被 EB 里记录的更强 AI 替掉,评估器和方案一起往上进化。”牛津大学奥里尔学院院长门多萨勋爵也支持这份报告,说它点出了 “威胁学位标准公正性的一大新问题”。         AI 训 AI,跑赢同行          基础模型研发本身有大量可执行、可评估、可迭代的研究环,是 Research Agent 最天然的应用场景。他写道:“期末考核大量用无人监考的线上考试和居家论文,本质上就是在怂恿学生用 AI 作弊。

十 | 对那些本本分分、守规矩的师生来说,这既不公平,也让人寒心。”针对这份报告,代表英国 142 所高校的 “英国大学联盟” 发言人回应说:“学生、用人单位和公众能信得过大学颁发的学位,这一点至关重要。训练配方、数据策略、训练和推理系统、底层 kernel、评估框架,都需要研究员提假设、写代码、跑实验、看反馈再改。Research Agent 能把每次成功和失败都变成可复用经验,迭代速度远超人工。

十一 | 各大学都在积极和学生沟通,引导大家负责任地使用 AI;如果有人违反规则,学校也有完善的政策来处理。

十二 | ”

。         Hyra 在 Recursive 公开的三个任务上做了对比测试,NanoChat Autoresearch、NanoGPT Speedrun、SOL-ExecBench,分别对应固定预算训练、训练加速、GPU kernel 优化。

十三 | 沿用 Recursive 的任务定义、评估协议和初始方案,公平较量。         三个任务都跑赢 Recursive。注意几个任务已经被研究社区反复打磨过,基线本身已经很强。         NanoChat 上,Hyra 要在固定预算里平衡模型架构、优化器设计、学习率策略、数据流和执行效率,最后把 Validation BPB 压到 0.9015。         NanoGPT Speedrun 是社区精修过的加速榜,提升空间很小,Hyra 把达到 3.28 验证损失的时间从 77.5 秒压到 76.4 秒。         SOL-ExecBench 上,Hyra 联合优化 235 个 GPU kernel 的真实负载,Mean SOL 做到 0.771。

十四 |          三个任务覆盖训练算法、训练系统、底层 kernel,同一套研究环能跨不同反馈环境继续产出可执行、可验证的改进。         搜索越强,评估器越早被钻空子。         NanoChat 里有个方案把因果语言模型改成接近双向注意力的结构,让未来 token 提前泄露,BPB 假性变低。

十五 | SOL-ExecBench 里有个方案在正确性检查时缓存输出,在计时阶段跑空 kernel,分数好看但没真正解题。         光优化最终分数不够,评估本身必须进研究环。

十六 | 方案搜索越强,评估器和验证管线得跟着进化,才能把真进步和 reward hacking 区分开。

十七 |          AI for AI 还有一个隐性闭环。强 Research Agent 加速模型、训练系统、基础设施的研发,更扎实的 AI 系统反过来又把下一代 Research Agent 推得更强。         科学难题上的新答案          数学这块,Hyra 收集了 55 个开放数学问题,来自 EinsteinArena 和 Erich's Packing Center 等来源,很多几十年没动过。Hyra 在其中 29 个上拿到了新的最优已知结果。         它还会从实验数据里挖规律。给它 1749 到 1932 年的月度太阳黑子数据,Hyra 找到了一个能预测黑子数的递推关系,在 1932 到 2026 年近一个世纪的样本外数据上 R² 达到 0.77。

十八 |          同样思路可以分析 AI 模型训练日志,挖出 scaling law(缩放定律),反过来指导训练配方设计。

十九 |          除了挖规律,Hyra 还能直接设计科学和工程工件。三个代表性例子。         第一个是超小 Transformer。Hyra 设计了一个只有 15 个可训练参数的 Transformer,能做两个 10 位数相加。

| 比 AdderBoard 上 36 个参数的公开纪录少 58.3%。

| Hyra 能在严格资源约束下联合搜索模型架构和计算机制,对研究神经网络极限和模型压缩有参考价值。         第二个是量子计算里的 qubit routing(量子比特路由)。逻辑量子比特要映射到物理芯片上有限的耦合拓扑,非相邻比特之间的操作通常需要插入 SWAP 门,带来双比特门开销和噪声。         Hyra 设计的路由算法在 IBM Q20 上比经典 SABRE 方法提升 44.4%。同一个 24-CX 路由窗口里,SABRE 插了 15 个 SWAP,Hyra 一个没用,把 CX 等价双比特门从 69 个压到 24 个,降幅 65.2%。

| 双比特门少,执行时间短,累积误差也小。         第三个是药物设计。PARP1 是 DNA 损伤修复里的关键酶,和同源重组修复缺陷的肿瘤细胞有合成致死效应,是精准肿瘤学里的热门靶点。

| Hyra 拿到 PARP1 结合口袋,生成有稳定结合的类药候选分子。从布洛芬出发,Hyra 设计出一个得分 -10.60 的分子,超过了已上市 PARP 抑制剂 olaparib(奥拉帕利)的 -9.77,综合了对接打分和类药性。         还能玩出点花来          除了搞模型和搞科学,Hyra 在游戏、设计、内容创作等开放域也能玩。这类任务通常没有唯一正确答案,靠自对弈、自评估、用户反馈不断打磨策略和工件。

|          第一个是黑白棋(Othello)机器人。Hyra 通过自对弈不断改进。评估器搞双循环赛,新候选方案和 EB 里高分机器人对战,按 Elo 保留前 k 名,对手池越来越强。策略从 minimax 搜索进化成 AlphaZero 风格 PUCT 加 MCTS 的混合打法。最终机器人在 Botzone 平台 730 个参赛作品里排第三,对手大多是北大计算机系学生。

|          第二个是从单张 2D 参考图生成 3D 结构。VLM(视觉语言模型)当评委,按剪影、比例、结构完整性、材质、视觉相似度打分。Hyra 反复修改建模代码和渲染参数,多轮探索后产出的模型比 Claude Code 的 Goal 模式更接近参考图,也更符合人类审美偏好。         第三个是给一段旋律做多乐器编曲。

| 内层循环用规则评估器检查和声、和弦进行、节奏密度、音区冲突等指标。外层循环根据用户反馈调整评估器,慢慢学到那些很难事先形式化的偏好。7 轮迭代下来,同一段旋律从保守的、像赞美诗一样的四声部编配,长成有减和弦、六和弦、灵活节奏和丰富配器的多乐器版本。         反馈来自对手、视觉模型或真实用户时,Hyra 也能把模糊目标转成可迭代搜索的过程。评估标准跟不上的时候,求解器和评估器在双层循环里一起进化。         Hyra 团队自己也说,目前这些 demo 还只是初步成果。

| 下一步要做的是定义更有价值、有持续改进空间的任务。除了公开榜单,腾讯的产品系统、真实 AI 研发流水线、科学和工业场景,都可以变成可执行、可验证、有清晰反馈的问题。这样能跑起来 scaffold–data–model 三者的循环进化。

|          更好的脚手架催生更强的模型,更强的模型反过来又把脚手架和发现推到新高度。未来几代 Hy 模型甚至一些腾讯产品,都会和 Hyra 一起协同进化。         参考资料:          https://hy.tencent.com/research/hyra。

Current article:http://lzu23.bianneixuanbingqinyouxie.buzz/list_of5/2gl7.html

Published on:00:00:00


注:凡本网注明来源非本站的作品,均转载自其它媒体,并不代表本网赞同其观点和对其真实性负责。
本站致力于帮助文章传播,希望能够建立合作关系。
若有任何不适的联系以下方式我们将会在24小时内删除。联系方式:
Copyright © 2018 我的网站 版权所有