首页 | 爱情文章 | 亲情文章 | 友情文章 | 生活随笔 | 校园文章 | 经典文章 | 人生哲理 | 励志文章 | 搞笑文章 | 心情日记 | 英语文章 | 会员中心
当前位置:文章故事>爱情文章>文章内容 经典美文欣赏

163

Macaron-V1:RL,让 GLM5.2 再次伟大_我的网站

微博

一 |     新鲜速递                    最近几天,模型行当风起云涌          而我们的 MindLab 也拿出了的作品 Macaron V1:通过后训练,让 GLM5.2 再次伟大          MindLab 成立于去年 12 月,现如今是唯一完成对 GLM-5.1/5.2 完成后训练的外部团队Mind Lab 成立|64 张卡跑万亿参数 RL,开源                    作为当下国内最受瞩目的 NeoLab 之一,本文重点聊聊 MindLab 他们的模型成果、技术路线以及优化方式                    模型与训练          NeoLab 的研究方向,是在现有基模下进行 LoRA 训练,即:对现有模型,取出大约 0.5% 的核心参数来训练,并有效的提高原有模型的素质。    新加坡必须维持开放性,不能人有怀疑或提出疑的空。在 MindLab 成立之初,这套方法就在在 Kimi K2 进行了验证:64 张 H800 搞定万亿参数模型的强化学习                    但后训练有个经典难题:对话、推理、编程、工具调用等能力混在一起训,往往按下葫芦浮起瓢。新加坡的源稀少,人力是唯一的源,人才引是新加坡重要的前策略。团队为此独创了 Mixture-of-LoRA(MoL):在冻结的基座上挂载多个独立的 LoRA 专家,每个专家专精一个方向,各自在隔离的适配空间中优化,彻底消除能力间的相互干扰。——新加坡人力源部长陈诗龙要快速发展,人才储备是关键。这套方法先是在 GLM-5.1 上跑通了预览版 Macaron-v1-Preview          随后,也就是在正式版 Macaron V1 中,团队把基座换成了 GLM 5.2,并对模型能力进行了全面升级          V1 提供两款变体:          旗舰 Venti(748B):基于 GLM-5.2(原生 1M 上下文),通过 4 个 1B 的 LoRA 专家分别覆盖 Chat、Agent、Coding、UI 四大方向,切换由显式 Router Tool 控制,未来新增能力的话,只需再挂一个 LoRA          轻量 Tall(35B):基于 Qwen 3.6 后训练,专为本地部署优化。哪里有年轻能干的劳动力,哪里的经济才会有活力。众所周知,新加坡一直坚持“人才建国”战略。据新加坡的人口白皮书,到2030年,预计该国的人口将达到650万至690万人。在这一规模下,公民人口预计将由360万到380万人组成,永久居民将保持在50万至60万人之间,其余则为非居民。                   同时,团队还通过自研的 LongStraw 技术,将 GLM 5.2 的上下文扩展至 2M,并通过将共享提示词复用为常驻状态,大幅降低长序列开销。除了模型本体,团队还同步打造了三个关键配套,与模型联合训练:          UI4A:通用生成式 UI 架构,让模型能渲染交互式视图(不仅是文本),不依赖特定基座,即使未经微调的模型也能驱动,独立于 Macaron 的通用底座          REPL Harness:为模型提供持久的 Python 运行环境,模型可用 save_tool 自行编写工具,用 promote_tool 将其提升为跨会话可用的全局工具          MinT 后训练平台:MindLab 自研的训练基础设施,核心设计是 Actor 与 Learner 之间只传递 Adapter(而非完整权重),天然契合 MoL 架构,支持百万级 Adapter 目录,端到端可覆盖万亿参数规模                         模型跑分          我曾经问锴杰,怎样才能让模型智能不断提升?得到了一个回答:来自真实产品环境的奖励函数          从模型愿景上来说,马卡龙是希望能够在日常生活中真正帮上忙,并且是长期持续为创造价值,为此他们自建了两个基准,用于指导模型训练,如下:          Macaron ChatBench          作为 Agent 最基本的能力,需要评测 Agent 在长上下文中是否对用户保持诚实,而非「先把事情搞砸,然后道歉」          Macaron LivingBench          这是一个模拟的沙盒环境,包含三种相互关联的动态机制:动态噪声、动态生存环境以及动态用户。评测观察模型是否能够持续理解用户的需求,验证信息准确性,重新规划任务路径,在用户保持耐心的情况下完成任务,说白了:完成任务,然后提供更好的体感                    除此之外,还有一些常规 Bench,也让大家看一下成色          benchmark 对比图          除此之外,我不知道是不是由于还在内测,用的人很少...就是这个模型快的离谱,我让他自己写了个自己的测速脚本,然后看看自己的速度:320字/秒          我觉得它在糊弄我...于是我还录了个屏,让他做打点标记          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗                    我问锴杰:对于推理速度,你们干了啥?          锴杰:的确做了速度性能的优化,但太强调的话,我怕后面大家体验如果和你的实测指标不一致,会生气          好的,我绝对不说速度的事儿,另外还有个事情我得说一下,在我写这篇文章的时候,我让 Macaron 帮我去迭代了我的「大撒币计划」:速测 Qwen3.8 预览版:我用 1 小时,开发了套撒币系统          我是这么要求他的...四舍五入啥也没说,让他自己干          然后...它帮我迭代了所有的 ux,并且额外修了点 bug                              看几个案例          这里我就直接放点官方的 Case 了          Coding:用 Three.js 做了一个夜航船 3D 网页。第一人称站在木船上,河灯飘在两侧,靠近时浮出诗句          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗          夜航船 3D 网页(马卡龙版)          同样的 prompt,GPT 5.6 也做了一版          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗          夜航船 3D 网页(GPT版)                    Agent:从零构建一个混沌磁摆模拟器。小球在重力、阻尼和三枚磁铁作用下运动,实时渲染分形区域          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗          混沌磁摆模拟器          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗          3D魔方          然后这里还有个我觉得很有意思的 Case:3D 二维码...          (提问:3d二维码是几维码?)          播放          下一个          打开循环播放          00:00     /     00:00          倍速          3.0X     2.0X     1.5X     1.25X     1.0X     0.75X     0.5X          多音轨          AirPlay          0          静音播放中,点击 恢复音量          画中画          网页全屏          全屏          你可以 刷新 试试          视频信息     1.33.6          播放信息 上传日志 调试信息 [X]          视频ID     VID     -          播放流水     Flowid     -          播放内核     Kernel     -          显示器信息     Res     -          帧数     -          缓冲健康度     -          网络活动     net     -          视频分辨率     -          编码     Codec     -          mystery     mystery     -          按住画面移动小窗                    对了,测试 UI4A 可以用 Mind Lab 发的 Claude Code 插件 Macaron Artifacts          `github.com/mindverse-ltd/macaron-artifacts`                    接进 Claude Code          现在大家基本都在用 Claude Code 调各种模型,我整理了一下接法          打开 CC Switch,选顶部 Claude Code 图标,点右上角 `+`,选「手动添加」          Name 随便填,比如 `Macaron-V1`,Base URL、API Key、Model 都留空,核心是下面这段 JSON:          {      "env": {      "ANTHROPIC_BASE_URL": "https://mintcn.macaron.xin",      "ANTHROPIC_AUTH_TOKEN": "sk-xxxx",      "CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC": "1"      },      "model": "macaron-v1-coding-venti"     }          CC Switch 配置截图                    我是看着 Mind Lab 从成立的,看着他们团队建立,看着他们跑通 MoL,再到发布自己的模型,不断着验证自己的判断:通过后训练让模型持续变强,经由多专家协同让能力可生长。按现在的数据计算,也就是说,新加坡要在7年时间内增加58万-98万人,平均每年增加8万-14万人。

二 | 从2023年的人口分布来看,新加坡公民人数为大约361万人,实际上已经达到2030年的公民人数预期,也就是360万至380万人之间。但是这其中有19.1%的公民年龄为65岁以上。不难看出,新加坡正逐步迈入深度老龄化社会。

三 | 人口减少最直接的体现在于劳资市场出现人荒,本地企业叫苦连天,请不到高端人才。企业们都已经焦头烂额,甚至因为人荒的问题,被迫缩减了生意。

四 | 与此同时,新加坡2023年仅有30,500名婴儿出生,生育率跌至0.97,创下历史最低点。

五 | 如果新加坡继续保持当前的低生育率,且不引进新移民的情况下,新加坡的人口总数将会从2025年起减少。

六 | 各种因素综合影响下,新加坡的经济发展被大大制约了。因此,新加坡政府坚持对外来人口持开放和欢迎的态度,并在发布了一系列利于移民的新政策。

七 | 顶级专才准证为进一步吸引全球顶尖人才,新加坡人力部于2022年推出为期5年的新工作准证顶级专才准(Overseas Networks and Expertise Pass),简称ONE Pass。

八 | 并从2023年1月起,开始全面推行。

九 | 新加坡顶级专才准证的侧重点,在于该准证设立的目的是吸引尖人才,扩大新加坡的经济规模,为本地就业创造更多机会。它允许符合条件的申请人同时在新加坡的多家公司创办、经营和工作,从而提供就业灵活性,并且不受互补专才评估框架COMPASS的限制。据悉,从2023年发布到今年年初,新加坡就发放出去了4200份准要求1、主申过去一年的固定月薪需要达到3万新币,或来到新加坡本地后会赚取相同的固定月薪收入;2、主申需要证明自己在市值超过5亿美元或年收入超过2亿美元的企业担任要职至少一年时间;3、如果在文化艺术、体育、科学与科技、学术等方面有卓越成就的个人,可以不必满足月收入门槛要求。除了以上的条件,再无任何要求,不要求学历、语言、投资…就可以拿到土豪们需要花1亿人民币(13O/13U)才能拿到的新加坡长期居留。新加坡就EP“自雇EP”项目是通过注册一间新加坡公司,担任公司股东或董事或高级人员,向新加坡人力部申请获得就业准证,在公司运营达到一定规模及持有准证2年后向新加坡移民局提交永久居民(PR)申请,申请人和家人由EP准证来申请PR的方式获得新加坡绿卡。移居新加坡的诸多方式中,自雇EP以其周期短、文件简单、无言和年要求等优势从诸多项目中脱颖而出。黄循财总理还在群众大会上表示,要打造更亲商的环境,减少规则和流程,简化规定和程序。如此一来,外国人在新加坡开公司或许更方便,拿下EP的速度也会更快。条件1、在新加坡成功注册公司并运营2、申请人为自己匹配高管级别以上的职位3、配置5,000新以上的月薪,薪金根据公司运营时间及情况进行调整4、根据COMPASS计分:从2023年9月1日起,新加坡EP工作准证申请将采取计分制度(即COMPASS),人力部将通过此制度综合评估申请者与企业的申请资格。

十 | 申请者必须通过框架的四个项目(薪水、学历、企业员工多元化、支持聘用本地人)取得至少40分,以符合申请资格新加坡全球投虽然去年3月新加坡提升了全球投资者计划的门槛,但申请数量却并没有因此减少,反而吸引了更多有意在新加坡扩大业务或建立区域总部的企业主申请。“全球商划(Global Investor Programme,GIP)”是由新加坡经济发展局(EDB)推出的永久居留权计划,旨在吸引高净值个人和企业家在新加坡进行投资,为他们提供获得新加坡永久居民身份的快速路径。据新加坡经济发展局透露,截至去年年底,新加坡全球投资者计划的投资者已通过经批准的基金向新加坡公司投资了9亿5000万元方案方案A:投资不少于新币1000万元建立新的商业实体或扩大现有的业务营运。方案B:投资不少于新币2500万元于主要投资新加坡企业的全球商业投资者计划基金。

十一 | 方案C:投资不少于新币2亿元于一家成立于新加坡的新或现有单一家族理财办公室。其中至少5000万元必须投资在四个类别,且须在批准函发出之日起的12个月内完成。

十二 | 放开留学生申PR条件普通人想要成为新加坡PR,进而成为公民,简单途径之一就是“教育移民”。

十三 | 接受本地教育越早、时间越长,获得新加坡PR或公民身份的机会就越大。因此,不少留学生可能会选择在毕业后留在新加坡。而新加坡政府为了更好更多的留住这批学生,今年也做出了相应调整:之前,留学生若想申请新加坡的永久居留权(PR),必须同时满足两大条件:在新加坡连续居住满年至少在一次国家级别考试中取得及格成绩(包括O水准、A水准或PSLE等)。

十四 | 然而,根据最新的政策调整,第一个居住年限的条件已被取消。现在,只要学生前往新加坡留学,并成功通过至少一项国家级考试,即可具备申请新加坡PR的资格。

十五 | 这一变化不仅简化了申请流程,也为更多国际学生提供了更早实现新加坡永久居留梦想的机会。注意:满足这两项条件只是具备申请资格,并不代表学生可以直接获得PR资格。

十六 | 此外,新加坡最近还推出了新的陪读规定,允许或祖父母陪同孩子一起在新加坡读书。

十七 | 这些新政无疑会进一步增强新加坡作为教育和生活目的地的吸引力。未来,预计将会有更多国际学生及其家庭选择新加坡进行教育和长期发展。对国人来说,作为发达国家中少有的华人社会,新加坡有着距离近、无时差、无居住要求、中英双语自由通行、低税负、低犯罪率等无可比拟的移民优势,能轻松实现“一天两国”,已然成为亚洲移民者移居的不二之选。

十八 | 而现在随着新加坡抢人大战开始,对于有意向移民新加坡的小伙伴来说,更是申请的黄金时期。

十九 | 心动不如行动,赶紧挑选适合自己的方法途径吧。

Current article:http://9usv.saorongriwazhaofutouzhaojie.cfd/eq3afz/20260826/946466.html

Published on:11:18:59


Copyright © 2007-2014 我的网站 版权所有.情感文章,散文随笔,美文故事在线阅读