ICL

Tính giá ICL Group Ltd (ADRs)

Đã đóng
ICL
₫119.404,18
-₫691,53(-0,57%)

*Dữ liệu cập nhật lần cuối: 2026-04-26 12:15 (UTC+8)

Tính đến 2026-04-26 12:15, ICL Group Ltd (ADRs) (ICL) đang giao dịch ở ₫119.404,18, với tổng vốn hóa thị trường là ₫154,11T, tỷ lệ P/E là 32,60 và tỷ suất cổ tức là 3,82%. Giá cổ phiếu hôm nay biến động trong khoảng ₫118.251,63 và ₫119.634,69. Giá hiện tại cao hơn 0,97% so với mức thấp nhất trong ngày và thấp hơn 0,19% so với mức cao nhất trong ngày, với khối lượng giao dịch là 1,07M. Trong 52 tuần qua, ICL đã giao dịch trong khoảng từ ₫117.099,08 đến ₫127.011,01 và giá hiện tại cách mức cao nhất trong 52 tuần -5,98%.

Các chỉ số chính của ICL

Đóng cửa hôm qua₫120.095,71
Vốn hóa thị trường₫154,11T
Khối lượng1,07M
Tỷ lệ P/E32,60
Lợi suất cổ tức (TTM)3,82%
Số lượng cổ tức₫1.071,87
EPS pha loãng (TTM)0,17
Thu nhập ròng (FY)₫5,20T
Doanh thu (FY)₫164,88T
Ngày báo cáo thu nhập2026-05-13
Ước tính EPS0,10
Ước tính doanh thu₫44,33T
Số cổ phiếu đang lưu hành1,28B
Beta (1 năm)0.938
Ngày giao dịch không hưởng quyền2026-03-10
Ngày thanh toán cổ tức2026-03-25

Giới thiệu về ICL

ICL Group Ltd, cùng với các công ty con của mình, hoạt động như một công ty khoáng chất và hóa chất chuyên biệt trên toàn thế giới. Nó hoạt động trong bốn lĩnh vực: Sản phẩm Công nghiệp, Kali, Giải pháp Phốt phát và Giải pháp Nông nghiệp Đổi mới (IAS). Lĩnh vực Sản phẩm Công nghiệp sản xuất bromine từ dung dịch là sản phẩm phụ của quá trình sản xuất kali, cũng như các hợp chất dựa trên bromine; sản xuất các loại kali, muối, magiê clorua và các sản phẩm magnesia; và sản xuất, tiếp thị các chất chống cháy dựa trên photpho và các sản phẩm dựa trên photpho khác. Lĩnh vực Kali khai thác kali từ Biển Chết; khai thác và sản xuất kali và muối; sản xuất Polysulphate; sản xuất, tiếp thị và bán magiê và hợp kim magiê, cũng như các sản phẩm phụ liên quan, bao gồm clo và sylvinite; và bán muối. Lĩnh vực Giải pháp Phốt phát sử dụng các sản phẩm hàng hóa phốt phát để sản xuất các sản phẩm đặc biệt; sản xuất và tiếp thị phân bón dựa trên phốt phát, cũng như axit sunfuric, axit phosphoric xanh và phân bón phốt phát; và sản xuất axit phosphoric nhiệt cho các thị trường công nghiệp khác nhau, như chăm sóc răng miệng, sản phẩm làm sạch, sơn và lớp phủ, xử lý nước, sửa đổi nhựa đường, xây dựng và xử lý kim loại. Nó cũng phát triển và sản xuất các thành phần thực phẩm chức năng và phụ gia phốt phát để sử dụng trong thị trường thịt chế biến, gia cầm, hải sản, sữa, đồ uống và bánh nướng; và sản xuất protein sữa và whey cho ngành nguyên liệu thực phẩm. Lĩnh vực IAS phát triển, sản xuất, tiếp thị và bán phân bón chủ yếu dựa trên nitơ, kali và phốt phát, bao gồm phân bón đặc biệt hòa tan trong nước, dạng lỏng, hòa tan và phân bón kiểm soát phát hành. Nó bán sản phẩm của mình thông qua các công ty tiếp thị, đại lý và nhà phân phối. Công ty trước đây được biết đến với tên gọi Israel Chemicals Ltd. và đã đổi tên thành ICL Group Ltd vào tháng 5 năm 2020. Công ty được thành lập vào năm 1968 và có trụ sở chính tại Tel Aviv, Israel.
Lĩnh vựcVật liệu cơ bản
Ngành nghềNguyên liệu nông nghiệp
CEOElad Aharonson
Trụ sở chínhTel Aviv,None,IL
Trang web chính thứchttps://www.icl-group.com

Tìm hiểu thêm về ICL Group Ltd (ADRs) (ICL)

Bài viết Gate Learn

Phần cổ phiếu Gate TradFi vừa giới thiệu 44 cặp giao dịch CFD và tổ chức cuộc thi giao dịch token mới, với tổng giải thưởng lên đến 100.000 USDT.

Gate TradFi sẽ tổ chức Cuộc thi giao dịch token mới Hàng hóa × Cổ phiếu từ 12:00 ngày 25 tháng 3 đến 12:00 ngày 8 tháng 4 (UTC+8).

2026-03-25

Đội ngũ Gate ra mắt Khu vực Hàng hóa TradFi × Cổ phiếu, tạo cơ hội giao dịch các loại tài sản cứng toàn cầu và nhận phần chia 100.000 USDT.

Gate TradFi vừa ra mắt các token mới. Hiện tại, Cuộc thi giao dịch token mới thuộc Khu vực Hàng hóa × Cổ phiếu đang được tổ chức, mang đến cơ hội nhận phần thưởng lớn với tổng giá trị 100.000 USDT cho các nhà đầu tư.

2026-03-25

Những thách thức hàng đầu về quyền riêng tư của Web3 và cách vượt qua chúng

Bất chấp tiềm năng đột phá của web3 và những thành tựu đạt được cho đến nay, bảo mật và quyền riêng tư vẫn là hai thách thức chính mà nó phải vượt qua để thành công hoàn toàn. Mặc dù công việc đầy hứa hẹn đang được tiến hành nhằm mục đích này, nhưng các nguyên lý cơ bản của web3 — phân cấp, không tin cậy và quyền tự chủ của người dùng — không phù hợp với bối cảnh bảo mật/quyền riêng tư hiện tại. Cần có các phương pháp mới để giải quyết các thách thức về quyền riêng tư của web3. Rất may, hệ sinh thái web3 tự mở khóa các công cụ cần thiết để biến các hệ thống bảo mật mạnh mẽ nhưng lấy người dùng làm trung tâm thành hiện thực.

2023-12-26

Câu hỏi thường gặp về ICL Group Ltd (ADRs) (ICL)

Giá cổ phiếu ICL Group Ltd (ADRs) (ICL) hôm nay là bao nhiêu?

x
ICL Group Ltd (ADRs) (ICL) hiện đang giao dịch ở mức ₫119.404,18, với biến động 24h qua là -0,57%. Phạm vi giao dịch 52 tuần là từ ₫117.099,08 đến ₫127.011,01.

Mức giá cao nhất và thấp nhất trong 52 tuần của ICL Group Ltd (ADRs) (ICL) là bao nhiêu?

x

Tỷ lệ giá trên thu nhập (P/E) của ICL Group Ltd (ADRs) (ICL) là bao nhiêu? Nó chỉ ra điều gì?

x

Vốn hóa thị trường của ICL Group Ltd (ADRs) (ICL) là bao nhiêu?

x

Lợi nhuận trên mỗi cổ phiếu (EPS) hàng quý gần đây nhất của ICL Group Ltd (ADRs) (ICL) là bao nhiêu?

x

Bạn nên mua hay bán ICL Group Ltd (ADRs) (ICL) vào thời điểm này?

x

Những yếu tố nào có thể ảnh hưởng đến giá cổ phiếu ICL Group Ltd (ADRs) (ICL)?

x

Làm thế nào để mua cổ phiếu ICL Group Ltd (ADRs) (ICL)?

x

Cảnh báo rủi ro

Thị trường chứng khoán tiềm ẩn rủi ro cao và biến động giá mạnh. Giá trị khoản đầu tư của bạn có thể tăng hoặc giảm, và bạn có thể không thu hồi được toàn bộ số tiền đã đầu tư. Hiệu suất hoạt động trong quá khứ không phải là chỉ báo đáng tin cậy cho kết quả tương lai. Trước khi đưa ra bất kỳ quyết định đầu tư nào, bạn nên đánh giá cẩn thận kinh nghiệm đầu tư, tình hình tài chính, mục tiêu đầu tư và khả năng chấp nhận rủi ro của mình, đồng thời tự mình nghiên cứu. Nếu cần thiết, hãy tham khảo ý kiến của một cố vấn tài chính độc lập.

Tuyên bố từ chối trách nhiệm

Nội dung trên trang này chỉ được cung cấp cho mục đích thông tin và không cấu thành tư vấn đầu tư, tư vấn tài chính hoặc khuyến nghị giao dịch. Gate sẽ không chịu trách nhiệm đối với bất kỳ tổn thất hoặc thiệt hại nào phát sinh từ các quyết định tài chính đó. Hơn nữa, xin lưu ý rằng Gate có thể không cung cấp đầy đủ dịch vụ tại một số thị trường và khu vực pháp lý nhất định, bao gồm nhưng không giới hạn ở Hoa Kỳ, Canada, Iran và Cuba. Để biết thêm thông tin về các Khu vực bị hạn chế, vui lòng tham khảo Thỏa thuận người dùng.

Thị trường giao dịch khác

Tin tức mới nhất về ICL Group Ltd (ADRs) (ICL)

2025-06-17 05:43

ICL xác nhận rằng cá nhân có liên quan đến Triều Tiên đã đóng góp vào kho mã Cosmos, mã của họ đã được xóa bỏ và không còn rủi ro nào.

Tin tức Gate News cho biết, Interchain Labs (ICL) đã xác nhận rằng một cá nhân sau này được xác nhận có liên quan đến Triều Tiên đã làm việc cho các nhân viên bảo trì trước đó trong khoảng thời gian từ năm 2022 đến năm 2024 và đã đóng góp cho kho mã Cosmos. Nhà phát triển cốt lõi của Cosmos này đã hợp tác với Liên minh An ninh (Security Alliance) và Asymmetric Research để phát hành một báo cáo an ninh, xác nhận rằng cá nhân này có quyền truy cập hạn chế vào hai kho mã: cosmos/IAVL và cosmos/cosmos-sdk. Cuộc kiểm tra đã phát hiện rằng, sau khi SDK v2 bị hủy bỏ, hầu hết mã mà anh ta đóng góp đã bị loại bỏ hoặc bị xóa khỏi lộ trình, và kiểm toán độc lập không phát hiện bất kỳ rủi ro hoặc lỗ hổng còn lại nào. Tuy nhiên, để nâng cao tính minh bạch, ICL sẽ cung cấp tiền thưởng gấp đôi trên trang Cosmos HackerOne vào tháng tới, thưởng cho những ai phát hiện ra bất kỳ lỗ hổng nào đủ điều kiện liên quan đến tài khoản GitHub "cool-develope" của người tham gia đó. Cụ thể, cá nhân này đã làm việc cho nhà cung cấp bảo trì ngăn xếp cốt lõi cũ từ giữa năm 2022 đến tháng 11 năm 2024, trước khi ICL hình thành và mô hình bảo trì của bên thứ ba Cosmos kết thúc. Trong một tuyên bố, ICL cho biết sau khi tiếp quản tất cả các phát triển ngăn xếp cốt lõi, nhóm đã triển khai các giao thức bảo mật và thuê mới để xác định vấn đề và chặn các đóng góp tiếp theo của nó. Người này sau đó đã nộp đơn cho vị trí này một lần nữa, nhưng đã bị gắn cờ và bị từ chối. ICL cho biết, kể từ tháng 2, họ đã thực hiện nâng cấp bảo mật toàn diện cho tất cả các kho lưu trữ cốt lõi của Cosmos, bao gồm việc thu hồi quyền truy cập cũ, cấp lại quyền cho tất cả các đóng góp viên, thay đổi chứng chỉ và tăng cường kiểm soát kiểm toán. Nguồn tin: The Block

Bài viết hot về ICL Group Ltd (ADRs) (ICL)

MarsBitNews

MarsBitNews

04-25 04:25
null 原文作者:Malika Aubakirova、Matt Bornstein,a16z crypto 原文编译:深潮 TechFlow 在克里斯托弗·诺兰的《记忆碎片》(Memento)里,主角 Leonard Shelby 活在一个破碎的当下。脑损伤让他患上了顺行性遗忘症,无法形成新记忆。每隔几分钟,他的世界就重置一次,被困在永恒的「此刻」,不记得刚才发生了什么,也不知道接下来会怎样。为了活下去,他在身上纹字、拍拍立得,靠这些外部道具来替代大脑无法完成的记忆功能。 大语言模型也活在类似的永恒当下。训练结束后,海量知识被冻结在参数里,模型无法形成新记忆,无法根据新经验更新自己的参数。为了弥补这个缺陷,我们给它搭了一堆脚手架:聊天历史充当短期便签,检索系统当外部笔记本,系统提示词就像身上的纹身。但模型本身,从来没有真正内化过这些新信息。 越来越多的研究者认为,这样不够。上下文学习(ICL)能解决的问题,前提是答案(或答案的碎片)已经存在于世界的某个角落。但对于那些需要真正发现的问题(比如全新的数学证明),对抗性场景(比如安全攻防),或者那些太隐性、无法用语言表达的知识,有充分的理由认为:模型需要一种方式,在部署之后把新知识和经验直接写入参数。 上下文学习是临时的。真正的学习需要压缩。在我们允许模型持续压缩之前,可能都困在《记忆碎片》的永恒当下里。反过来说,如果我们能训练模型学会自己的记忆架构,而不是依赖外挂的定制工具,可能会解锁一个全新的 scaling 维度。 这个研究领域叫持续学习(continual learning)。这个概念并不新(参见 McCloskey 和 Cohen 1989 年的论文),但我们认为它是当前 AI 领域最重要的研究方向之一。过去两三年模型能力的爆发式增长,让模型「已知」和「能知」之间的鸿沟越来越明显。这篇文章的目的是分享我们从该领域顶级研究者那里学到的东西,帮助厘清持续学习的不同路径,并推动这个话题在创业生态中的发展。 注:这篇文章的成型得益于与一群优秀的研究者、博士生和创业者的深度交流,他们慷慨地与我们分享了自己在持续学习领域的工作和见解。从理论基础到部署后学习的工程现实,他们的洞见让这篇文章比我们独自撰写的要扎实得多。感谢你们贡献的时间和想法! 先聊上下文 在为参数级学习(即更新模型权重的学习)辩护之前,有必要承认一个事实:上下文学习确实管用。而且有一种很有力的论证认为它会继续赢下去。 Transformer 的本质是基于序列的条件化下一个 token 预测器。给它正确的序列,你就能得到令人惊讶的丰富行为,根本不需要碰权重。这就是为什么上下文管理、提示工程、指令微调和少样本示例这些方法如此强大。智能封装在静态参数里,而表现出来的能力随着你喂进窗口的内容剧烈变化。 Cursor 最近关于自主编程智能体 scaling 的深度文章就是一个好例子:模型权重是固定的,真正让系统跑起来的是对上下文的精心编排——放什么进去、什么时候做摘要、如何在数小时的自主运行中维持连贯状态。 OpenClaw 是另一个好例子。它爆火不是因为有特殊的模型权限(底层模型所有人都能用),而是因为它把上下文和工具极其高效地转化成了工作状态:追踪你在做什么、结构化中间产物、决定什么时候重新注入提示词、维持对之前工作的持久记忆。OpenClaw 把智能体的「外壳设计」提升到了一个独立学科的高度。 当提示工程最初出现时,很多研究者对「只靠提示词」能成为正经接口这件事持怀疑态度。它看起来像个 hack。但它是 Transformer 架构的原生产物,不需要重新训练,而且随着模型进步自动升级。模型变强,提示就变强。「简陋但原生」的接口往往能赢,因为它直接耦合到底层系统,而不是和它对着干。到目前为止,LLM 的发展轨迹正是如此。 状态空间模型:上下文的类固醇版 当主流工作流从原始 LLM 调用转向智能体循环时,上下文学习模型面临的压力越来越大。过去,上下文窗口被完全填满的情况相对少见。这通常发生在 LLM 被要求完成一长串离散任务时,应用层可以用比较直接的方式裁剪和压缩聊天历史。 但对智能体来说,一个任务就可能吃掉总可用上下文的很大一部分。智能体循环的每一步都依赖于前序迭代传递的上下文。而且它们经常在 20 到 100 步之后失败,因为「断了线」:上下文被填满,连贯性退化,无法收敛。 因此,主要 AI 实验室现在投入了大量资源(即大规模训练运行)来开发超长上下文窗口的模型。这是一条自然的路径,因为它建立在已经有效的方法(上下文学习)之上,并且与行业向推理时计算转移的大趋势契合。最常见的架构是在普通注意力头之间穿插固定记忆层,即状态空间模型(SSM)和线性注意力变体(下文统称为 SSM)。SSM 在长上下文场景下提供了根本性更好的 scaling 曲线。 图注:SSM 与传统注意力机制的 scaling 对比 目标是帮助智能体将连贯运行的步数提升几个数量级,从大约 20 步到大约 20,000 步,同时不丢失传统 Transformer 所提供的广泛技能和知识。如果成功,这对长时间运行的智能体来说是重大突破。 你甚至可以把这种方法看作一种持续学习的形式:虽然没有更新模型权重,但引入了一个几乎不需要重置的外部记忆层。 所以,这些非参数化方法是真实的、强大的。任何对持续学习的评估都必须从这里开始。问题不在于今天的上下文系统有没有用,它确实有用。问题是:我们是否已经看到了天花板,新的方法能否带我们走得更远。 上下文遗漏了什么:「档案柜谬误」 「AGI 和预训练发生的事情是,在某种意义上它们超调了……人类不是 AGI。是的,人类确实有一个技能基础,但人类缺少大量知识。我们依赖的是持续学习。 如果我造出一个超级聪明的 15 岁少年,他什么都不知道。一个好学生,非常渴望学习。你可以说,去当程序员,去当医生。部署本身就会涉及某种学习、试错的过程。这是一个过程,不是把成品直接扔出去。——Ilya Sutskever」 想象一个存储空间无限的系统。世界上最大的档案柜,每个事实都被完美索引,即时可检索。它能查到任何东西。它学到了吗? 没有。它从来没有被迫做压缩。 这是我们论证的核心,它引用了 Ilya Sutskever 之前提出的一个观点:LLM 本质上是压缩算法。在训练过程中,它们把互联网压缩成参数。压缩是有损的,而正是这种有损性让它变得强大。压缩迫使模型寻找结构、进行泛化、构建能跨上下文迁移的表征。一个死记硬背所有训练样本的模型,不如一个提取出底层规律的模型。有损压缩本身就是学习。 讽刺的是,让 LLM 在训练期间如此强大的机制(把原始数据压缩成紧凑、可迁移的表征),恰恰是我们在部署后拒绝让它们继续做的事。我们在发布那一刻停止了压缩,用外部记忆来替代。 当然,大多数智能体外壳都会以某种定制方式压缩上下文。但苦涩教训(bitter lesson)难道不是告诉我们,模型本身应该学会这种压缩,直接地、大规模地? Yu Sun 分享了一个例子来说明这场辩论:数学。看看费马大定理。350 多年来,没有数学家能证明它,不是因为他们缺少正确的文献资料,而是因为解法高度新颖。已有数学知识和最终答案之间的概念距离太大了。 Andrew Wiles 在 1990 年代终于攻克它时,他花了七年近乎与世隔绝地工作,不得不发明全新的技术来抵达答案。他的证明依赖于成功桥接两个不同的数学分支:椭圆曲线和模形式。虽然 Ken Ribet 此前已经证明如果能建立这个连接就能自动解决费马大定理,但在 Wiles 之前,没有人拥有能实际构建这座桥的理论工具。Grigori Perelman 对庞加莱猜想的证明也可以做类似的论证。 核心问题是:这些例子是否证明 LLM 缺少了某种东西,某种更新先验、进行真正创造性思考的能力?还是这个故事恰好证明了相反的结论——所有人类知识只是可供训练和重组的数据,Wiles 和 Perelman 不过展示了 LLM 在更大规模上也能做到的事? 这个问题是经验性的,答案尚不确定。但我们确实知道,有很多类别的问题上下文学习今天会失败,而参数级学习可能有用。例如: 图注:上下文学习失败、参数学习可能胜出的问题类别 更重要的是,上下文学习只能处理能用语言表达的东西,而权重可以编码提示词无法用文字传达的概念。有些模式维度太高、太隐性、太深层结构化,放不进上下文。比如,医学扫描中区分良性伪影和肿瘤的视觉纹理,或者定义一个说话人独特节奏的音频微波动,这些模式不容易被分解成精确的词汇。 语言只能近似它们。再长的提示词也传递不了这些东西;这类知识只能存活在权重里。它们活在学习表征的潜空间中,不是文字。无论上下文窗口增长到多大,总有一些知识是文本无法描述的,只能被参数承载。 这也许能解释为什么显式的「机器人记住你」功能(比如 ChatGPT 的 memory)经常让用户感到不适而非惊喜。用户真正想要的不是「回忆」,而是「能力」。一个已经内化了你行为模式的模型可以泛化到新场景;一个只是回忆你历史记录的模型做不到。「这是你上次回复这封邮件时写的内容」(逐字复述)和「我已经足够理解你的思维方式,能预判你需要什么」之间的差距,就是检索和学习的差距。 持续学习入门 持续学习有多种路径。分界线不在于「有没有记忆功能」,而在于:压缩发生在哪里?这些路径沿一个光谱分布,从无压缩(纯检索,权重冻结),到完全内部压缩(权重级学习,模型变得更聪明),中间还有一个重要地带(模块)。 图注:持续学习的三种路径——上下文、模块、权重 上下文 在上下文这端,团队构建更智能的检索管线、智能体外壳和提示词编排。这是最成熟的类别:基础设施经过验证,部署路径清晰。限制在于深度:上下文长度。 一个值得注意的新方向:多智能体架构作为上下文本身的 scaling 策略。如果单个模型被限制在 128K token 窗口内,一组协调的智能体群——每个持有自己的上下文、专注于问题的一个切片、互相通信结果——可以在整体上近似无限工作记忆。每个智能体在自己的窗口内做上下文学习;系统做聚合。Karpathy 最近的 autoresearch 项目和 Cursor 构建网页浏览器的例子是早期案例。这是纯粹的非参数化方法(不改权重),但它极大地抬高了上下文系统能做到的上限。 模块 在模块空间里,团队构建可插拔的知识模块(压缩的 KV 缓存、适配器层、外部记忆存储),让通用模型在不重新训练的情况下实现专业化。一个 8B 模型加上合适的模块,可以在目标任务上匹配 109B 模型的表现,内存占用只是其零头。吸引力在于它能兼容现有的 Transformer 基础设施。 权重 在权重更新这端,研究者在追求真正的参数级学习:只更新相关参数片段的稀疏记忆层、从反馈中优化模型的强化学习循环、在推理时将上下文压缩进权重的测试时训练(test-time training)。这些是最深层的方法,也是最难部署的,但它们真正允许模型完全内化新信息或新技能。 参数更新的具体机制有多种。列举几个研究方向: 图注:权重级学习的研究方向概览 权重级研究涵盖了多条并行路线。正则化和权重空间方法历史最久:EWC(Kirkpatrick et al., 2017)根据参数对先前任务的重要性来惩罚参数变化;权重插值(Kozal et al., 2024)在参数空间中混合新旧权重配置,但两者在大规模上都比较脆弱。 测试时训练由 Sun et al.(2020)开创,后来发展为架构原语(TTT 层、TTT-E2E、TTT-Discover),思路截然不同:在测试数据上做梯度下降,在需要的那一刻把新信息压缩进参数。 元学习问的是:我们能否训练出懂得「如何学习」的模型?从 MAML 的少样本友好参数初始化(Finn et al., 2017)到 Behrouz et al. 的嵌套学习(Nested Learning, 2025),后者将模型结构化为一个分层优化问题,不同时间尺度上运行快速适配和慢速更新的模块,灵感来自生物记忆巩固。 蒸馏通过让学生模型匹配冻结的教师检查点来保留先前任务的知识。LoRD(Liu et al., 2025)通过同时裁剪模型和回放缓冲区,让蒸馏高效到可以持续运行。自蒸馏(SDFT, Shenfeld et al., 2026)翻转了来源,用模型自己在专家条件下的输出作为训练信号,绕过了序列微调的灾难性遗忘。 递归自我改进运作在类似的思路上:STaR(Zelikman et al., 2022)从自生成的推理链中引导推理能力;AlphaEvolve(DeepMind, 2025)发现了几十年未被改进的算法优化;Silver 和 Sutton 的「经验时代」(2025)把智能体学习定义为一个永不停止的持续经验流。 这些研究方向正在汇聚。TTT-Discover 已经融合了测试时训练和 RL 驱动的探索。HOPE 把快慢学习循环嵌套在单一架构内。SDFT 把蒸馏变成了自我改进的基本操作。列与列之间的边界正在模糊。下一代持续学习系统很可能会组合多种策略:用正则化来稳定,用元学习来加速,用自我改进来复利。一批越来越多的创业公司正在押注这个技术栈的不同层级。 持续学习创业版图 光谱的非参数端最为人熟知。外壳公司(Letta、mem0、Subconscious)构建编排层和脚手架,管理放进上下文窗口的内容。外部存储和 RAG 基础设施(如 Pinecone、xmemory)提供检索骨干。数据存在,挑战是在正确的时间把正确的切片放到模型面前。随着上下文窗口扩展,这些公司的设计空间也随之增长,特别是在外壳端,一波新的创业公司正在涌现来管理日益复杂的上下文策略。 参数端更早期、也更多元。这里的公司在尝试某种版本的「部署后压缩」,让模型在权重中内化新信息。路径大致可以分成几种不同的赌注,关于模型在发布后应该「怎样」学习。 部分压缩:不重训也能学。一些团队在构建可插拔的知识模块(压缩的 KV 缓存、适配器层、外部记忆存储),让通用模型在不动核心权重的情况下实现专业化。共同的论点是:你可以获得有意义的压缩(不只是检索),同时把稳定性-可塑性的权衡控制在可管理范围内,因为学习是隔离的,而不是分散在整个参数空间。8B 模型配上合适的模块,可以在目标任务上匹配远大模型的表现。优势是可组合性:模块可以和现有 Transformer 架构即插即用,可以独立交换或更新,实验成本远低于重训。 RL 和反馈循环:从信号中学习。另一些团队押注的是,部署后学习最丰富的信号已经存在于部署循环本身——用户纠正、任务成败、来自真实世界结果的奖励信号。核心理念是模型应该把每次交互都当作潜在的训练信号,而不只是推理请求。这和人类在工作中进步的方式高度类似:干活、拿到反馈、内化哪些方法有效。工程挑战在于把稀疏、嘈杂、有时带有对抗性的反馈转化为稳定的权重更新,同时不灾难性遗忘。但一个真正能从部署中学习的模型,会以上下文系统做不到的方式产生复利价值。 以数据为中心:从正确的信号中学习。一个相关但有区别的赌注是,瓶颈不在学习算法,而在训练数据和周边系统。这些团队专注于筛选、生成或合成正确的数据来驱动持续更新:前提是一个有高质量、结构良好的学习信号的模型,只需要少得多的梯度步就能有意义地改进。这和反馈循环公司自然衔接,但强调的是上游问题:模型能不能学是一回事,它应该从什么学、学到什么程度是另一回事。 新架构:从底层设计学习能力。最激进的赌注认为 Transformer 架构本身就是瓶颈,持续学习需要从根本上不同的计算原语:具备连续时间动态和内建记忆机制的架构。这里的论点是结构性的:如果你想要一个持续学习的系统,你应该把学习机制嵌入底层基础架构。 图注:持续学习创业公司版图 所有主要实验室也在这些类别中积极布局。有的在探索更好的上下文管理和思维链推理,有的在试验外部记忆模块或 sleep-time 计算管线,还有几家隐身公司在追求新架构。这个领域足够早期,没有哪种方法已经胜出,而且考虑到用例的广泛性,也不应该只有一种赢家。 为什么朴素的权重更新会失败 在生产环境中更新模型参数,会引发一连串目前在大规模上尚未解决的失败模式。 图注:朴素权重更新的失败模式 工程问题已有充分记录。灾难性遗忘意味着对新数据足够敏感以学习的模型,会摧毁已有的表征——稳定性-可塑性困境。时间解耦是指不变规则和可变状态被压缩进了同一组权重,更新一个就会损坏另一个。逻辑整合的失败是因为事实更新不会传播到其推论:更改局限在 token 序列层面,不是语义概念层面。遗忘(unlearning)仍然不可能:不存在一个可微分的减法操作,因此虚假或有毒知识没有精确的手术切除方案。 还有第二类问题被较少关注。当前训练和部署的分离不只是工程上的便利,它是安全性、可审计性和治理的边界。打开这个边界,多件事会同时出问题。安全对齐可能不可预测地退化:即便是在良性数据上的窄范围微调也可能产生广泛的失调行为。 持续更新创造了一个数据投毒的攻击面——一种缓慢、持久的提示注入版本,但它活在权重里。可审计性崩塌,因为一个持续更新的模型是一个移动靶,无法做版本控制、回归测试或一次性认证。当用户交互被压缩进参数时,隐私风险加剧,敏感信息被烘焙进表征,比检索上下文中的信息更难过滤。 这些是开放问题,不是根本性的不可能。解决它们和解决核心架构挑战一样,是持续学习研究议程的一部分。 从「记忆碎片」到真正的记忆 Leonard 在《记忆碎片》中的悲剧不在于他无法运转——在任何一个场景中他都足智多谋,甚至堪称出色。他的悲剧在于他永远无法复利。每一次经历都停留在外部——一张拍立得、一个纹身、一张别人笔迹的便条。他能检索,但他无法压缩新知识。 当 Leonard 在这个自我建构的迷宫中穿行时,真实和信念之间的界限开始模糊。他的病症不只是剥夺了他的记忆;它迫使他不断重建意义,让他同时成为自己故事中的侦探和不可靠叙述者。 今天的 AI 运行在同样的约束下。我们构建了非常强大的检索系统:更长的上下文窗口、更智能的外壳、协调的多智能体群,而且它们管用。但检索不等于学习。一个能查到任何事实的系统没有被迫去寻找结构。它没有被迫去泛化。让训练如此强大的有损压缩——把原始数据转化为可迁移表征的机制——恰恰是我们在部署那一刻就关掉的东西。 前进的路径很可能不是一个单一突破,而是一个分层系统。上下文学习仍将是第一道适应防线:它是原生的、经过验证的、在不断改进的。模块机制可以处理个性化和领域专业化的中间地带。 但对于那些真正困难的问题——发现、对抗适应、无法用文字表达的隐性知识——我们可能需要让模型在训练之后继续把经验压缩进参数。这意味着稀疏架构、元学习目标和自我改进循环的进步。它可能还需要我们重新定义「模型」的含义:不是一组固定的权重,而是一个进化中的系统,包含它的记忆、它的更新算法,以及它从自身经验中抽象的能力。 档案柜越来越大。但再大的档案柜还是档案柜。突破在于让模型在部署后做训练时让它强大的那件事:压缩、抽象、学习。我们站在从失忆模型到拥有一丝经验之光的模型的转折点上。否则,我们会困在自己的《记忆碎片》里。
0
0
0
0
GateUser-bd883c58

GateUser-bd883c58

04-24 06:07
Báo này (chinatimes.net.cn) phóng viên Hạ Y Hoa Lý Vị Lai Bắc Kinh đưa tin Khủng hoảng lưu thông qua eo biển Hormuz không chỉ khiến giá dầu quốc tế tăng mạnh mà còn gây biến động lớn đối với giá các sản phẩm hóa chất rất ít người biết đến. Từ đầu năm đến nay, giá brom đã ổn định và tăng dần, sau tháng 3, xu hướng giá brom như tên lửa bay cao. Dữ liệu của Công ty Thương nghiệp cho thấy, ngày 8 tháng 3, giá brom vẫn là 39.700 nhân dân tệ/tấn, đến ngày 22 tháng 3, đã tăng vọt lên 51.000 nhân dân tệ/tấn, ngày 3 tháng 4, giá brom đã thay đổi thành 70.200 nhân dân tệ/tấn. Thị trường vốn tự nhiên không bỏ lỡ đợt tăng giá này, các cổ phiếu liên quan đến brom liên tục tăng mạnh, tính đến ngày 3 tháng 4, kết thúc phiên, cổ phiếu của Công ty Su Li (603585.SH) đã tăng 3 lần trong 6 ngày, các cổ phiếu của Shandong Haihua (000822.SZ), Lu Bei Hóa Học (600727.SH) và các cổ phiếu khác đều có mức tăng đáng kể. Phóng viên chú ý thấy, brom là sản phẩm hóa học ít phổ biến, công suất sản xuất nhỏ, không phải là ngành kinh doanh chính của các công ty niêm yết, liệu giá brom tăng có thể thúc đẩy tăng trưởng lợi nhuận của các công ty liên quan hay không? Nhân viên văn phòng của Công ty Cổ phần Binh Hóa (601678.SH) cho biết với phóng viên của Báo Hoa Hạ, công ty có công suất brom hơn 5.000 tấn, tỷ trọng doanh thu thấp, nhưng khi giá đơn tăng đột biến vẫn sẽ ảnh hưởng nhất định đến lợi nhuận của công ty. Ngoài ra, một nhân viên của công ty niêm yết khác cũng nói, đối với các công ty nhỏ, tăng vài chục triệu lợi nhuận là tốt rồi, nhưng đối với các công ty lớn, tác dụng nâng cao hiệu quả kinh doanh hạn chế. **Nguồn cung quốc tế bị gián đoạn** Từ tháng 1 đến tháng 3 năm 2026, các doanh nghiệp sản xuất brom nước muối trong nước tạm ngừng hoạt động hoặc giảm sản lượng, các doanh nghiệp brom biển bị ảnh hưởng bởi nhiệt độ thấp, công suất hoạt động ở mức thấp, kho dự trữ của các doanh nghiệp sản xuất không lớn, các nhà giữ hàng bán giá thấp, thị trường giá ổn định và tăng nhẹ. Dữ liệu của Công ty Thương nghiệp cho thấy, ngày 3 tháng 1 năm 2026, giá brom là 35.000 nhân dân tệ/tấn, đến ngày 20 tháng 1, giá đã lên 38.600 nhân dân tệ/tấn, ngày 6 tháng 2, giá brom tăng lên 41.600 nhân dân tệ/tấn, sau đó giá brom có xu hướng ổn định, ngày 23 tháng 2 vẫn là 41.600 nhân dân tệ/tấn, và ngày 4 tháng 3 giảm xuống còn 39.700 nhân dân tệ/tấn. Sau đó, giá brom liên tục tăng đến ngày 3 tháng 4 đạt 70.200 nhân dân tệ/tấn. Chuyên gia phân tích brom của Zhaocai Information, Triệu Thiện Thiện, cho biết, từ tháng 3 trở đi, giá thị trường brom chủ yếu do cung cầu thúc đẩy, các doanh nghiệp sản xuất brom trong nước dần tăng sản lượng, do tình hình địa chính trị Trung Đông, nguồn cung brom từ nước ngoài giảm, chu kỳ vận chuyển kéo dài, nguồn hàng nhập khẩu không thể cung cấp kịp thời, tổng cung trong nước giảm, các nhà bán hàng giữ giá, tâm lý chờ đợi tăng giá vẫn còn nặng nề, thị trường giá tăng mạnh. Công ty Chứng khoán Yinhe chỉ ra, tình hình xung đột địa chính trị Trung Đông leo thang, một mặt không loại trừ khả năng một số nhà máy brom của Israel tạm thời giảm hoặc ngừng sản xuất, dẫn đến thiếu hụt nguồn cung brom; mặt khác, chi phí logistics xuất khẩu brom của Israel và Jordan sẽ tăng rõ rệt, chu kỳ vận chuyển brom cũng có nhiều bất định, trung tâm giá brom dự kiến sẽ tăng theo. Theo thông tin, Israel và Jordan là hai nhà sản xuất brom lớn nhất thế giới. Dữ liệu của Longzhong Information, công suất brom của Israel và Jordan chiếm lần lượt 33% và 19% tổng sản lượng toàn cầu. Trung Quốc là quốc gia tiêu thụ brom lớn nhất thế giới, nhưng phụ thuộc lớn vào nhập khẩu brom, Israel và Jordan là hai nhà nhập khẩu chính của Trung Quốc. Theo số liệu của Tổng cục Hải quan, năm 2025, Trung Quốc nhập khẩu brom từ Israel 35.000 tấn và Jordan 14.000 tấn, tổng cộng chiếm khoảng 64,7% tổng lượng nhập khẩu. Triệu Thiện Thiện giải thích với phóng viên, ngành brom toàn cầu có độ tập trung cao, trong đó Israel, Jordan và Mỹ chiếm hơn 60% công suất toàn cầu, Trung Quốc có khoảng 150.000 tấn. Nhờ lợi thế nguồn nước muối dồi dào quanh biển Chết, brom trong nước biển Chết có hàm lượng cao, chiếm khoảng 40% tổng công suất toàn cầu. Phóng viên biết rằng, giá brom tăng trong tháng 1 và 2 năm 2026 cũng liên quan đến công suất ngoài nước. Theo các báo cáo, nhà sản xuất lớn nhất thế giới, Hóa chất ICL của Israel, đã giảm xuất khẩu brom kể từ năm 2025, chuyển sang tăng sản lượng các sản phẩm brom hóa dưới. Một quốc gia nhập khẩu brom lớn khác của Trung Quốc gặp phải thiên tai bất ngờ. Ngày 21 tháng 1, miền nam Jordan xảy ra mưa lớn gây lũ lụt, làm gián đoạn nguồn cung của JBC, nhà máy brom lớn thứ hai thế giới, với sản lượng 100.000 tấn/năm, chiếm khoảng 13-14% tổng công suất toàn cầu. **Công suất sẽ dần phục hồi** Phóng viên nhận thấy, mặc dù giá tăng mạnh, nhưng tổng công suất brom vẫn nhỏ, doanh thu trong các công ty niêm yết chiếm tỷ lệ thấp. Báo cáo nửa năm 2025 của Asia Potash cho biết, công ty liên doanh của họ, Công ty Brom Á Châu, có công suất brom 25.000 tấn/năm, dự kiến mở rộng lên 50.000 tấn/năm vào năm 2025, nhưng doanh thu từ kali clorua đạt 3,464 tỷ nhân dân tệ, chiếm 97,65%; doanh thu từ nước muối là 47,22 triệu nhân dân tệ, chiếm 1,33%; các khoản khác là 36,31 triệu nhân dân tệ, chiếm 1,02%. Shandong Haihua, nhà dẫn đầu trong khai thác brom từ nước muối ngầm trong nước, có công suất khoảng 10.000 tấn, năm 2025 doanh thu đạt 4,745 tỷ nhân dân tệ, doanh thu brom chỉ 200 triệu nhân dân tệ, chiếm 4,23%; Lu Bei Hóa Học có công suất brom khoảng 5.000 tấn, năm 2025 sản lượng brom là 3.245 tấn, bán ra 3.117 tấn. Tổng doanh thu năm 2025 của công ty là 5,089 tỷ nhân dân tệ, doanh thu brom là 73,81 triệu nhân dân tệ, nhưng tỷ suất lợi nhuận gộp khá cao, đạt 52,91%. Nhân viên văn phòng của Lu Bei Hóa Học cho biết, tỷ suất lợi nhuận gộp cao một phần do chi phí sản xuất thấp, phần khác do giá bán cao; giá cao còn do nhu cầu phía dưới ổn định, cung không thể nhanh chóng theo kịp. “Brom chủ yếu dùng trong chất chống cháy brom, dược phẩm và các lĩnh vực khác, nhu cầu ổn định.” Người này còn nói thêm, sản xuất brom chủ yếu dựa vào khai thác brom từ nước biển, nước muối ngầm, quặng khoáng, trong đó khai thác từ nước biển chỉ khả thi ở các vùng ven biển như Bột Hải, còn phía nam ít điều kiện hơn. Việc khai thác nước muối ngầm bị kiểm soát chặt chẽ bởi nhà nước, không thể khai thác vô hạn. Về việc giá brom tăng gần đây, nhân viên này thừa nhận, từ tháng 3 trở đi, do xung đột Trung Đông, logistics bị hạn chế, nhập khẩu gặp khó khăn, dẫn đến nguồn cung trong nước tạm thời căng thẳng. Nhưng cũng có yếu tố mùa vụ, “mùa đông, nồng độ brom trong nước biển thấp, nhiều nơi tạm ngừng sản xuất, sản lượng nhỏ, giá thường tăng vào thời điểm này hàng năm, sau ngày 1/5, sản lượng sẽ dần phục hồi, giá có thể giảm dần.” Triệu Thiện Thiện cũng đưa ra quan điểm tương tự. “Khi nhiệt độ tăng, sản lượng brom trong nước biển sẽ tăng, thúc đẩy tỷ lệ hoạt động của ngành, nguồn cung brom trong nước sẽ dần tăng lên, các doanh nghiệp tạm ngừng sản xuất do kiểm tra môi trường có thể bắt đầu hoạt động trở lại trong tháng 4, cần chú ý theo dõi tình hình sản xuất phục hồi.” Ngoài ra, Triệu Thiện Thiện cho rằng, tháng 4 cần tiếp tục theo dõi tâm lý tiếp nhận hàng của các khách hàng phía dưới, giá cao cấp còn phải mất thời gian truyền xuống, nếu truyền dẫn tốt, sẽ là tín hiệu tích cực cho thị trường; nếu không, giá thị trường có thể điều chỉnh về mức cao. Thời điểm cụ thể của điểm ngoặt còn phải tiếp tục theo dõi. Về ảnh hưởng của giá brom đến các ngành phía dưới, Triệu Thiện Thiện nói, giá brom tăng gây áp lực lớn lên chi phí sản xuất của các doanh nghiệp phía dưới, một số sản phẩm theo giá brom tăng, nhưng việc truyền dẫn giá cao xuống phía dưới gặp khó khăn, người mua thận trọng chờ đợi, tùy theo tình hình đơn hàng và nhu cầu sản xuất.
0
0
0
0
DeepFlowTech

DeepFlowTech

04-24 03:43
Tác giả: Malika Aubakirova、Matt Bornstein Biên dịch: Deep潮 TechFlow Deep潮 Đọc thử: Các mô hình ngôn ngữ lớn sau khi huấn luyện xong đều bị "đóng băng", sau khi triển khai chỉ có thể duy trì hoạt động dựa vào cửa sổ ngữ cảnh, RAG và các bản vá ngoài khác, về bản chất giống như bệnh nhân mất trí nhớ trong "Memento" — có thể truy xuất thông tin, nhưng không thể thực sự học hỏi cái mới. Hai đối tác của a16z đã hệ thống hóa hướng nghiên cứu tiên phong về "học liên tục", từ ngữ cảnh, mô-đun đến cập nhật trọng số, phân tích các con đường công nghệ có thể định nghĩa lại giới hạn khả năng của AI này. Trong bộ phim "Memento" của Christopher Nolan, nhân vật chính Leonard Shelby sống trong hiện tại vỡ vụn. Chấn thương sọ não khiến anh mắc chứng mất trí nhớ tiền đình, không thể hình thành ký ức mới. Mỗi vài phút, thế giới của anh lại được đặt lại, bị mắc kẹt trong "hiện tại" vĩnh cửu, không nhớ những gì vừa xảy ra, cũng không biết chuyện gì sẽ xảy ra tiếp theo. Để tồn tại, anh xăm chữ lên người, dùng máy ảnh Polaroid, dựa vào những công cụ bên ngoài này để thay thế chức năng ký ức mà não không thể thực hiện. Các mô hình ngôn ngữ lớn cũng sống trong hiện tại vĩnh cửu tương tự. Sau khi huấn luyện, lượng kiến thức khổng lồ bị đóng băng trong các tham số, mô hình không thể hình thành ký ức mới, không thể cập nhật tham số dựa trên trải nghiệm mới. Để bù đắp cho thiếu sót này, chúng ta đã xây dựng một loạt các khung sườn: lịch sử trò chuyện như ghi chú ngắn hạn, hệ thống truy xuất như sổ ghi chú bên ngoài, prompt như hình xăm trên người. Nhưng bản thân mô hình, từ trước đến nay, chưa từng thực sự nội tại hóa những thông tin mới này. Ngày càng nhiều nhà nghiên cứu cho rằng, điều này là chưa đủ. Học theo ngữ cảnh (ICL) có thể giải quyết vấn đề, miễn là câu trả lời (hoặc mảnh ghép của câu trả lời) đã tồn tại ở đâu đó trong thế giới. Nhưng đối với những vấn đề cần khám phá thực sự (như chứng minh toán học mới), các kịch bản đối kháng (như tấn công an ninh), hoặc những kiến thức quá ẩn sâu, không thể diễn đạt bằng ngôn ngữ, có lý do chính đáng để tin rằng: mô hình cần một phương thức, sau khi triển khai, viết trực tiếp kiến thức và kinh nghiệm mới vào các tham số của nó. Học theo ngữ cảnh là tạm thời. Học thực sự cần nén lại. Trước khi cho phép mô hình liên tục nén, có thể chúng ta đều đang mắc kẹt trong hiện tại vĩnh cửu của "Memento". Ngược lại, nếu chúng ta có thể huấn luyện mô hình học cách xây dựng kiến trúc ký ức của chính nó, thay vì dựa vào các công cụ bên ngoài tùy biến, có thể sẽ mở ra một chiều kích mở rộng quy mô hoàn toàn mới. Lĩnh vực nghiên cứu này gọi là học liên tục (continual learning). Khái niệm này không mới (xem bài báo của McCloskey và Cohen năm 1989), nhưng chúng tôi cho rằng nó là một trong những hướng nghiên cứu quan trọng nhất hiện nay trong AI. Trong hai đến ba năm qua, sự bùng nổ về khả năng của mô hình đã làm rõ hơn khoảng cách giữa "đã biết" và "có thể biết". Bài viết này nhằm chia sẻ những gì chúng tôi học được từ các nhà nghiên cứu hàng đầu trong lĩnh vực này, giúp làm rõ các con đường khác nhau của học liên tục, và thúc đẩy chủ đề này phát triển trong hệ sinh thái khởi nghiệp. Lưu ý: Bài viết này hình thành nhờ các cuộc trao đổi sâu sắc với một nhóm các nhà nghiên cứu, tiến sĩ và doanh nhân xuất sắc, những người đã hào phóng chia sẻ công trình và quan điểm của họ trong lĩnh vực học liên tục. Từ nền tảng lý thuyết đến thực tế kỹ thuật sau khi triển khai, những hiểu biết của họ khiến bài viết này chắc chắn hơn nhiều so với việc chúng tôi tự viết. Xin cảm ơn các bạn đã dành thời gian và chia sẻ ý tưởng! Trước hết nói về ngữ cảnh Trước khi biện hộ cho việc học cấp tham số (tức là cập nhật trọng số mô hình), cần thừa nhận một sự thật: học theo ngữ cảnh thực sự có tác dụng. Và có một lý luận mạnh mẽ cho rằng nó sẽ tiếp tục thắng thế. Bản chất của Transformer là dựa trên chuỗi để dự đoán token tiếp theo theo điều kiện. Cung cấp đúng chuỗi, bạn sẽ nhận được các hành vi phong phú đáng ngạc nhiên, mà không cần chạm vào trọng số. Đó là lý do tại sao các phương pháp như quản lý ngữ cảnh, kỹ thuật gợi ý, tinh chỉnh theo hướng dẫn và ví dụ ít mẫu lại mạnh mẽ đến vậy. Trí tuệ được đóng gói trong các tham số tĩnh, còn khả năng thể hiện thì thay đổi mạnh mẽ theo nội dung bạn đưa vào cửa sổ. Bài viết của Cursor gần đây về quy mô trí tuệ tự lập dựa trên lập trình là một ví dụ điển hình: trọng số mô hình là cố định, điều thực sự làm hệ thống hoạt động là cách tổ chức ngữ cảnh một cách tinh tế — đưa gì vào, khi nào tóm tắt, cách duy trì trạng thái liên tục trong vài giờ tự vận hành. OpenClaw là một ví dụ khác. Nó nổi bật không phải vì có quyền truy cập đặc biệt vào mô hình (mọi người đều có thể dùng mô hình nền), mà vì nó biến ngữ cảnh và công cụ thành trạng thái làm việc cực kỳ hiệu quả: theo dõi bạn đang làm gì, tạo ra các sản phẩm trung gian có cấu trúc, quyết định khi nào cần đưa prompt trở lại, duy trì ký ức lâu dài về các công việc trước đó. OpenClaw đã nâng cao "thiết kế vỏ" của trí tuệ nhân tạo thành một ngành học riêng biệt. Khi kỹ thuật gợi ý mới xuất hiện, nhiều nhà nghiên cứu hoài nghi về khả năng "chỉ dựa vào prompt" để trở thành giao diện chính thức. Nó trông như một thủ thuật (hack). Nhưng thực ra, đó là nguyên bản của kiến trúc Transformer, không cần huấn luyện lại, và tự động nâng cấp theo tiến bộ của mô hình. Khi mô hình mạnh hơn, prompt cũng trở nên mạnh hơn. Giao diện "đơn giản nhưng nguyên bản" thường thắng thế, vì nó liên kết trực tiếp với hệ thống nền tảng, thay vì đối đầu với nó. Cho đến nay, xu hướng phát triển của LLM chính là như vậy. Mô hình không gian trạng thái: phiên bản ngữ cảnh như steroid Khi dòng chảy chính từ gọi LLM nguyên bản sang vòng lặp trí tuệ nhân tạo, áp lực đối với các mô hình học theo ngữ cảnh ngày càng lớn. Trước đây, hiếm khi gặp phải tình trạng cửa sổ ngữ cảnh đầy ắp. Thường xảy ra khi LLM được yêu cầu hoàn thành một chuỗi nhiệm vụ rời rạc, tầng ứng dụng có thể cắt và nén lịch sử trò chuyện theo cách khá trực tiếp. Nhưng đối với trí tuệ nhân tạo, một nhiệm vụ có thể chiếm phần lớn tổng thể ngữ cảnh khả dụng. Vòng lặp của trí tuệ nhân tạo mỗi bước đều phụ thuộc vào ngữ cảnh truyền qua các vòng lặp trước đó. Và chúng thường thất bại sau 20 đến 100 bước, vì "đứt dây": ngữ cảnh bị đầy, tính liên tục giảm sút, không thể hội tụ. Do đó, các phòng thí nghiệm AI lớn hiện đang đầu tư mạnh vào phát triển các mô hình có cửa sổ ngữ cảnh siêu dài. Đây là con đường tự nhiên, dựa trên các phương pháp đã hiệu quả (học theo ngữ cảnh), phù hợp với xu hướng chuyển đổi tính toán trong suy luận. Kiến trúc phổ biến nhất là chèn các lớp nhớ cố định giữa các đầu chú ý thông thường — gọi là mô hình không gian trạng thái (SSM) và các biến thể chú ý tuyến tính (gọi chung là SSM). SSM cung cấp đường cong mở rộng quy mô vượt trội trong các kịch bản ngữ cảnh dài. Chú thích hình: So sánh khả năng mở rộng của SSM và chú ý truyền thống Mục tiêu là giúp các trí tuệ nhân tạo nâng cao số bước liên tục hoạt động từ khoảng 20 lên khoảng 20.000, mà không mất đi các kỹ năng và kiến thức rộng lớn mà Transformer truyền thống mang lại. Nếu thành công, đây sẽ là bước đột phá lớn cho các hệ thống trí tuệ nhân tạo vận hành lâu dài. Bạn thậm chí có thể xem phương pháp này như một dạng học liên tục: mặc dù không cập nhật trọng số, nhưng đã đưa vào một lớp nhớ bên ngoài gần như không cần phải reset. Vì vậy, các phương pháp phi tham số này là thực sự mạnh mẽ. Bất kỳ đánh giá nào về học liên tục đều phải bắt đầu từ đây. Vấn đề không phải là hệ thống ngữ cảnh ngày nay có hữu ích không, nó thực sự hữu ích. Câu hỏi là: chúng ta đã thấy giới hạn chưa, các phương pháp mới có thể đưa chúng ta đi xa hơn không. Thiếu sót của ngữ cảnh: "Hiện vật trong tủ hồ sơ" "AGI và tiền huấn luyện xảy ra chuyện là, theo một nghĩa nào đó, chúng đã quá mức... Con người không phải là AGI. Đúng vậy, con người có nền tảng kỹ năng, nhưng họ thiếu lượng lớn kiến thức. Chúng ta dựa vào học liên tục. Nếu tôi tạo ra một thiếu niên cực kỳ thông minh 15 tuổi, cậu ấy chẳng biết gì cả. Một học sinh tốt, rất ham học hỏi. Bạn có thể nói, đi làm lập trình viên, đi làm bác sĩ. Việc triển khai bản thân đã liên quan đến một quá trình học hỏi, thử sai. Đây là một quá trình, chứ không phải đưa ra thành phẩm rồi phát hành — Ilya Sutskever" Hãy tưởng tượng một hệ thống có không gian lưu trữ vô hạn. Một tủ hồ sơ lớn nhất thế giới, mọi sự kiện đều được lập chỉ mục hoàn hảo, có thể truy xuất ngay lập tức. Nó có thể tra cứu bất cứ thứ gì. Nó đã học được chưa? Chưa. Nó chưa từng bị ép phải nén. Đây là luận điểm cốt lõi của chúng tôi, dựa trên quan điểm của Ilya Sutskever trước đó: LLM về bản chất là thuật toán nén. Trong quá trình huấn luyện, chúng nén internet thành các tham số. Nén có tổn thất, và chính sự tổn thất này làm cho nó mạnh mẽ hơn. Nén buộc mô hình phải tìm ra cấu trúc, tổng quát hóa, xây dựng các biểu diễn có thể chuyển đổi qua ngữ cảnh. Một mô hình ghi nhớ cứng tất cả các mẫu huấn luyện không bằng một mô hình trích xuất các quy luật nền tảng. Nén có tổn thất chính là học. Trớ trêu thay, cơ chế làm cho LLM mạnh mẽ trong quá trình huấn luyện (nén dữ liệu gốc thành biểu diễn nhỏ gọn, có thể chuyển đổi) lại chính là thứ chúng ta từ chối để chúng tiếp tục làm sau khi triển khai. Chúng ta dừng nén tại thời điểm phát hành, thay thế bằng bộ nhớ ngoài. Tất nhiên, hầu hết các hệ thống vỏ ngoài của trí tuệ nhân tạo đều nén ngữ cảnh theo cách tùy biến nào đó. Nhưng bài học đắng lòng (bitter lesson) có lẽ chính là: mô hình nên tự học cách nén này, một cách trực tiếp, quy mô lớn. Yu Sun đã chia sẻ một ví dụ minh họa cho cuộc tranh luận này: Toán học. Xem xét định lý Fermat. Hơn 350 năm, không nhà toán học nào chứng minh được, không phải vì thiếu tài liệu đúng đắn, mà vì phương pháp giải pháp mang tính đột phá cao. Khoảng cách giữa kiến thức toán học đã có và đáp số cuối cùng quá lớn. Khi Andrew Wiles cuối cùng chinh phục nó vào thập niên 1990, ông đã làm việc gần như cách ly trong bảy năm, phải phát minh ra các kỹ thuật hoàn toàn mới để đi đến đáp số. Chứng minh của ông dựa trên việc kết nối thành công hai lĩnh vực toán học khác nhau: đường cong elliptic và dạng mô hình. Trong khi Ken Ribet trước đó đã chứng minh rằng, nếu có thể xây dựng cầu nối này, thì định lý Fermat sẽ tự giải quyết, thì trước Wiles, chưa ai có công cụ lý thuyết để xây dựng cầu đó. Chứng minh của Grigori Perelman về giả thuyết Poincaré cũng có thể làm ví dụ tương tự. Vấn đề cốt lõi là: Những ví dụ này có chứng minh LLM thiếu một thứ gì đó, một khả năng cập nhật tiền đề, suy nghĩ sáng tạo thực sự không? Hay câu chuyện này lại chứng minh điều ngược lại — tất cả kiến thức của con người chỉ là dữ liệu để huấn luyện và tổ hợp lại, Wiles và Perelman chỉ thể hiện rằng LLM cũng có thể làm được điều đó trên quy mô lớn hơn? Vấn đề này mang tính thực nghiệm, câu trả lời vẫn còn chưa rõ ràng. Nhưng chúng ta rõ ràng biết rằng, có nhiều loại vấn đề mà học theo ngữ cảnh ngày nay thất bại, còn học cấp tham số thì có thể hữu ích. Ví dụ: Chú thích: Các loại vấn đề mà học theo ngữ cảnh thất bại, còn học cấp tham số có thể thắng thế Quan trọng hơn, học theo ngữ cảnh chỉ xử lý được những thứ có thể diễn đạt bằng ngôn ngữ, còn trọng số có thể mã hóa các khái niệm mà prompt không thể truyền đạt bằng lời. Một số dạng mẫu hình quá cao, quá ẩn, quá sâu, không thể đưa vào ngữ cảnh. Ví dụ, trong quét y học, phân biệt các vết giả lành tính và u ác dựa trên kết cấu hình ảnh, hoặc định nghĩa nhịp điệu đặc trưng của người nói qua các dao động âm thanh nhỏ — những mẫu này khó phân tích thành từ ngữ chính xác. Ngôn ngữ chỉ có thể xấp xỉ chúng. Ngay cả prompt dài nhất cũng không thể truyền đạt hết; những kiến thức này chỉ có thể tồn tại trong trọng số. Chúng sống trong không gian tiềm ẩn của biểu diễn học, không phải trong lời nói. Dù cửa sổ ngữ cảnh mở rộng đến đâu, vẫn có những kiến thức không thể mô tả bằng văn bản, chỉ có thể mang trong trọng số. Điều này có thể giải thích tại sao các chức năng "nhớ bạn" rõ ràng như của ChatGPT thường khiến người dùng cảm thấy không thoải mái hơn là thích thú. Người dùng thực sự muốn không phải "hồi tưởng", mà là "khả năng". Một mô hình đã nội tại hóa các mô hình hành vi của bạn có thể tổng quát hóa đến các tình huống mới; còn một mô hình chỉ ghi nhớ lịch sử của bạn thì không thể. "Đây là nội dung bạn đã viết lần trước khi trả lời email này" (đọc từng chữ) và "Tôi đã đủ hiểu cách suy nghĩ của bạn, có thể dự đoán bạn cần gì" — đó là sự khác biệt giữa truy xuất và học hỏi. Học liên tục sơ lược Học liên tục có nhiều con đường khác nhau. Ranh giới không nằm ở việc "có chức năng nhớ" hay không, mà ở chỗ: nén xảy ra ở đâu? Các con đường này phân bố theo một quang phổ, từ không nén (chỉ truy xuất, trọng số đóng băng), đến nén hoàn toàn nội tại (học cấp trọng số, làm mô hình trở nên thông minh hơn), còn có một vùng trung gian quan trọng (mô-đun). Chú thích hình: Ba con đường của học liên tục — ngữ cảnh, mô-đun, trọng số Ngữ cảnh Ở phía ngữ cảnh, nhóm xây dựng các hệ thống truy xuất thông minh hơn, vỏ ngoài của trí tuệ nhân tạo và kỹ thuật gợi ý. Đây là lĩnh vực đã trưởng thành nhất: hạ tầng đã được xác thực, lộ trình triển khai rõ ràng. Giới hạn chính là độ sâu: chiều dài ngữ cảnh. Một hướng mới đáng chú ý là kiến trúc đa trí tuệ nhân tạo như một chiến lược mở rộng quy mô ngữ cảnh. Nếu một mô hình đơn lẻ bị giới hạn trong cửa sổ 128K token, thì một nhóm các trí tuệ nhân tạo phối hợp — mỗi cái giữ một ngữ cảnh riêng, tập trung vào một phần của vấn đề, giao tiếp kết quả với nhau — có thể gần như vô hạn hóa bộ nhớ làm việc chung. Mỗi trí tuệ trong nhóm học theo ngữ cảnh trong cửa sổ của nó; hệ thống tổng hợp. Các dự án của Karpathy gần đây về tự nghiên cứu và ví dụ xây dựng trình duyệt web của Cursor là các ví dụ ban đầu. Đây là phương pháp phi tham số thuần túy (không thay đổi trọng số), nhưng đã nâng cao đáng kể giới hạn của hệ thống ngữ cảnh có thể đạt được. Mô-đun Trong không gian mô-đun, nhóm xây dựng các mô-đun kiến thức có thể cắm vào (bộ nhớ KV nén, lớp thích nghi, bộ nhớ ngoài), giúp mô hình chung đạt được chuyên môn hóa mà không cần huấn luyện lại toàn bộ. Một mô hình 8 tỷ tham số cộng với các mô-đun phù hợp có thể đạt hiệu suất tương đương với mô hình 109 tỷ tham số trên các nhiệm vụ mục tiêu, bộ nhớ chiếm phần nhỏ. Ưu điểm là khả năng tích hợp dễ dàng: các mô-đun này có thể cắm vào các kiến trúc Transformer hiện có, dễ thay thế hoặc cập nhật, chi phí thử nghiệm thấp hơn nhiều so với huấn luyện lại toàn bộ. Trọng số Ở phía cập nhật trọng số, các nhà nghiên cứu theo đuổi học cấp tham số thực sự: chỉ cập nhật các phần liên quan của trọng số — các lớp nhớ rSparse, tối ưu hóa mô hình qua phản hồi (reinforcement learning loop), hoặc huấn luyện trong thời gian dự đoán (test-time training) để nén ngữ cảnh vào trọng số. Đây là các phương pháp sâu nhất, khó triển khai nhất, nhưng cho phép mô hình nội tại hóa hoàn toàn kiến thức hoặc kỹ năng mới. Các cơ chế cập nhật trọng số đa dạng. Một số hướng nghiên cứu chính: Chú thích hình: Tổng quan các hướng nghiên cứu về học cấp trọng số Các hướng nghiên cứu về trọng số bao gồm nhiều con đường song song. Phương pháp điều chỉnh và không gian trọng số lâu đời nhất là EWC (Kirkpatrick et al., 2017), dựa trên độ quan trọng của các tham số đối với nhiệm vụ trước đó để phạt các thay đổi; hoặc phương pháp hòa trộn trọng số (Kozal et al., 2024), trong đó các trọng số mới và cũ được pha trộn trong không gian tham số, nhưng cả hai đều khá mong manh khi mở rộng quy mô. Huấn luyện trong thời gian dự đoán (test-time training) do Sun et al. (2020) mở đầu, sau này phát triển thành các nguyên tắc kiến trúc như TTT, TTT-E2E, TTT-Discover, với ý tưởng khác biệt: thực hiện gradient descent trên dữ liệu kiểm thử, để nén thông tin mới vào trọng số tại thời điểm cần thiết. Meta-learning đặt câu hỏi: chúng ta có thể huấn luyện mô hình biết "cách học" không? Từ MAML (Finn et al., 2017) với khởi tạo tham số ít mẫu thân thiện, đến Behrouz et al. (2025) với học phân tầng (Nested Learning), mô hình được cấu trúc thành các mô-đun thích nghi nhanh theo thời gian ngắn và cập nhật chậm theo thời gian dài, lấy cảm hứng từ quá trình củng cố ký ức sinh học. Distillation (chưng cất) giúp giữ lại kiến thức của các nhiệm vụ trước bằng cách bắt mô hình học theo các điểm kiểm tra của giáo viên đã đóng băng. LoRD (Liu et al., 2025) kết hợp cắt tỉa mô hình và bộ đệm phát lại, giúp quá trình chưng cất hiệu quả đến mức có thể liên tục vận hành. Tự chưng cất (SDFT, Shenfeld et al., 2026) đảo ngược nguồn gốc, dùng đầu ra của chính mô hình trong điều kiện chuyên gia làm tín hiệu huấn luyện, bỏ qua thảm họa quên sequence. Recursive self-improvement (tự cải tiến đệ quy) hoạt động dựa trên ý tưởng tương tự: STaR (Zelikman et al., 2022) dẫn dắt khả năng suy luận từ chuỗi suy luận tự sinh; AlphaEvolve (DeepMind, 2025) phát hiện ra các thuật toán tối ưu đã không được cải tiến trong hàng chục năm; Silver và Sutton định nghĩa học của trí tuệ nhân tạo là một dòng chảy liên tục của kinh nghiệm không ngừng. Các hướng nghiên cứu này đang hội tụ. TTT-Discover đã kết hợp huấn luyện trong thời gian kiểm thử và khám phá dựa trên RL. HOPE nhúng vòng học nhanh chậm vào cùng một kiến trúc. SDFT biến quá trình chưng cất thành thao tác tự cải tiến cơ bản. Ranh giới giữa các phương pháp đang mờ dần. Các hệ thống học liên tục thế hệ tiếp theo có khả năng kết hợp nhiều chiến lược: dùng chuẩn hóa để ổn định, meta-learning để tăng tốc, tự cải tiến để cộng hưởng lợi ích. Một số công ty khởi nghiệp ngày càng nhiều đang đặt cược vào các tầng khác nhau của hệ công nghệ này. Bản đồ hệ sinh thái khởi nghiệp về học liên tục Phần phi tham số của quang phổ là phần được biết đến nhiều nhất. Các công ty vỏ ngoài (Letta, mem0, Subconscious) xây dựng các lớp phối hợp và khung sườn quản lý nội dung đưa vào cửa sổ ngữ cảnh. Các hệ thống lưu trữ ngoài và hạ tầng RAG (như Pinecone, xmemory) cung cấp nền tảng truy xuất. Dữ liệu đã có, thách thức là đưa đúng phần đúng vào đúng thời điểm trước mô hình. Khi cửa sổ ngữ cảnh mở rộng, các công ty này cũng mở rộng không gian thiết kế, đặc biệt là phần vỏ ngoài, khi hàng loạt startup mới xuất hiện để quản lý các chiến lược ngữ cảnh ngày càng phức tạp. Phần trọng số, sớm hơn và đa dạng hơn, là nơi các công ty thử nghiệm "nén sau khi triển khai", giúp mô hình nội tại hóa kiến thức mới trong trọng số. Các con đường này chia thành các cược khác nhau về cách mô hình "học" sau khi phát hành. Nén một phần: không cần huấn luyện lại vẫn có thể học. Một số nhóm xây dựng các mô-đun kiến thức cắm vào (bộ nhớ KV nén, lớp thích nghi, bộ nhớ ngoài), giúp mô hình chung đạt được chuyên môn hóa mà không cần huấn luyện lại toàn bộ. Lý luận chung là: bạn có thể đạt được nén có ý nghĩa (không chỉ truy xuất), đồng thời kiểm soát được cân bằng ổn định và khả năng thích nghi, vì việc học tách biệt khỏi toàn bộ không gian tham số. Một mô hình 8 tỷ tham số cộng với các mô-đun phù hợp có thể đạt hiệu suất tương đương các mô hình 109 tỷ tham số trên các nhiệm vụ mục tiêu, bộ nhớ chiếm phần nhỏ. Ưu điểm là khả năng kết hợp: các mô-đun này có thể cắm vào các kiến trúc Transformer hiện có, dễ thay thế hoặc cập nhật, chi phí thử nghiệm thấp hơn nhiều so với huấn luyện lại toàn bộ. Học qua phản hồi và vòng lặp: học từ tín hiệu trong quá trình vận hành. Một số nhóm đặt cược rằng, các tín hiệu phong phú nhất để học sau khi triển khai đã tồn tại trong vòng lặp vận hành — phản hồi của người dùng, thành bại của nhiệm vụ, phần thưởng từ kết quả thực tế. Ý tưởng cốt lõi là mô hình nên xem mỗi lần tương tác như một tín hiệu huấn luyện tiềm năng, chứ không chỉ là yêu cầu suy luận. Điều này rất giống cách con người tiến bộ trong công việc: làm việc, nhận phản hồi, nội tại hóa các phương pháp hiệu quả. Thách thức kỹ thuật là chuyển đổi các phản hồi thưa thớt, nhiễu loạn, đôi khi mang tính đối kháng thành các cập nhật trọng số ổn định, tránh quên quá mức. Nhưng một mô hình thực sự có thể học từ vòng đời vận hành sẽ tạo ra giá trị cộng hưởng theo cách mà hệ thống ngữ cảnh không thể làm được. Học dựa trên dữ liệu: học từ tín hiệu đúng đắn. Một cược liên quan nhưng khác biệt là, giới hạn không nằm ở thuật toán học, mà ở dữ liệu huấn luyện và hệ thống xung quanh. Các nhóm này tập trung vào chọn lọc, tạo ra hoặc tổng hợp dữ liệu phù hợp để thúc đẩy cập nhật liên tục: giả định rằng, một mô hình có tín hiệu học tốt, có chất lượng cao, cấu trúc rõ ràng, chỉ cần ít bước gradient là có thể cải thiện đáng kể. Điều này phù hợp với các công ty dựa trên vòng phản hồi, nhưng nhấn mạnh vấn đề ở phần trên: mô hình có thể học hay không là chuyện một, còn nó học cái gì, học đến mức nào lại là chuyện khác. Kiến trúc mới: học khả năng từ thiết kế nền tảng. Các cược đột phá nhất cho rằng, chính kiến trúc Transformer là giới hạn, và để học liên tục cần một nguyên lý tính toán hoàn toàn khác: kiến trúc có khả năng động trong thời gian liên tục và có cơ chế nhớ tích hợp sẵn. Lập luận này dựa trên tính cấu trúc: nếu muốn có một hệ thống học liên tục, bạn cần tích hợp cơ chế học vào nền tảng kiến trúc. Bản đồ các công ty khởi nghiệp về học liên tục Tất cả các phòng thí nghiệm lớn cũng đang tích cực tham gia vào các lĩnh vực này. Có nhóm đang khám phá các phương pháp quản lý ngữ cảnh và suy luận theo chuỗi, có nhóm thử nghiệm các mô-đun nhớ ngoài hoặc pipeline tính toán trong thời gian ngủ, còn vài công ty bí mật đang theo đuổi kiến trúc mới. Lĩnh vực này còn rất sơ khai, chưa có phương pháp nào thắng thế, và xét đến tính đa dạng của các ứng dụng, cũng không nên chỉ có một người chiến thắng. Tại sao cập nhật trọng số sơ khai lại thất bại Trong môi trường sản xuất, cập nhật tham số mô hình sẽ gây ra một loạt các mô hình thất bại chưa được giải quyết triệt để trên quy mô lớn. Chú thích hình: Các mô hình thất bại của cập nhật trọng số sơ khai Các vấn đề kỹ thuật đã được ghi nhận đầy đủ. Quên cục bộ (catastrophic forgetting) nghĩa là mô hình quá nhạy cảm với dữ liệu mới để học, sẽ phá hủy các biểu diễn đã có — đó là nghịch lý ổn định và khả năng thích nghi. Thời gian phân tách nghĩa là các quy tắc bất biến và trạng thái biến đổi bị nén chung trong cùng một tập trọng số, cập nhật một cái sẽ làm hỏng cái kia. Sự thất bại trong tích hợp logic là do các cập nhật về thực tế không lan truyền đến các suy luận của nó: thay đổi chỉ giới hạn trong cấp độ chuỗi token, chứ không phải trong cấp độ khái niệm ngữ nghĩa. Việc quên (unlearning) vẫn chưa thể thực hiện: không có phép trừ có thể vi phân, nên không có phương pháp chính xác để loại bỏ kiến thức giả hoặc độc hại. Ngoài ra, còn một vấn đề ít được chú ý hơn. Việc tách biệt giữa huấn luyện và triển khai hiện nay không chỉ là vấn đề kỹ thuật, mà còn là ranh giới an toàn, có thể kiểm soát và quản lý. Mở rộng ranh giới này sẽ gây ra nhiều vấn đề cùng lúc. Phù hợp an toàn có thể suy giảm không dự đoán được: thậm chí fine-tuning trên dữ liệu an toàn cũng có thể gây ra các hành vi lệch lạc rộng lớn. Cập nhật liên tục tạo ra một bề mặt tấn công nhiễm độc dữ liệu — một dạng tiêm kích hoạt lặng lẽ, kéo dài, nằm trong trọng số. Khả năng kiểm tra, xác thực cũng sụp đổ, vì mô hình liên tục cập nhật là một mục tiêu di động, không thể version control, kiểm thử hồi quy hoặc xác nhận một lần. Khi tương tác của người dùng bị nén trong trọng số, rủi ro về quyền riêng tư tăng cao, thông tin nhạy cảm có thể bị "baked in" vào biểu diễn, khó lọc hơn so với thông tin trong ngữ cảnh truy xuất. Đây là các vấn đề mở, chứ không phải là không thể giải quyết. Giải quyết chúng cũng giống như giải quyết các thách thức kiến trúc cốt lõi, đều nằm trong chương trình nghị sự của nghiên cứu học liên tục. Từ "Memento" đến trí nhớ thực sự Bi kịch của Leonard trong "Memento" không phải là anh không thể vận hành — trong mọi tình huống, anh đều rất thông minh, thậm chí xuất sắc. Bi kịch của anh là anh không thể cộng hưởng lợi ích. Mỗi trải nghiệm đều nằm ngoài tầm nội tại — một bức ảnh Polaroid, một hình xăm, một mảnh giấy ghi chú của người khác. Anh có thể truy xuất, nhưng không thể nén kiến thức mới. Khi Leonard đi qua mê cung tự xây dựng này, ranh giới giữa thực và niềm tin bắt đầu mờ nhạt. Bệnh của anh không chỉ lấy đi ký ức; nó buộc anh phải liên tục tái tạo ý nghĩa, khiến anh vừa là thám tử trong câu chuyện của chính mình, vừa là người kể chuyện không đáng tin cậy. Ngày nay, AI cũng vận hành trong giới hạn tương tự. Chúng ta xây dựng các hệ thống truy xuất cực kỳ mạnh mẽ: cửa sổ ngữ cảnh dài hơn, vỏ ngoài thông minh hơn, nhóm đa trí tuệ phối hợp, và tất cả đều có tác dụng. Nhưng truy xuất không đồng nghĩa với học hỏi. Một hệ thống có thể tra cứu mọi sự thật chưa chắc đã bị buộc phải tìm ra cấu trúc. Nó không bị buộc phải tổng quát hóa. Việc huấn luyện một cơ chế nén dữ liệu mạnh mẽ — biến dữ liệu gốc thành biểu diễn có thể chuyển đổi — chính là thứ chúng ta dừng lại ngay tại thời điểm phát hành. Con đường tiến lên có thể không phải là một đột phá duy nhất, mà là một hệ thống phân tầng. Học theo ngữ cảnh vẫn sẽ là tuyến phòng thủ đầu tiên: nó là nguyên bản, đã được xác thực, và liên tục cải tiến. Các cơ chế mô-đun có thể xử lý các trung gian giữa cá nhân hóa và chuyên môn hóa lĩnh vực. Nhưng đối với những vấn đề thực sự khó khăn — khám phá, thích nghi chống lại, kiến thức ẩn sâu không thể diễn đạt bằng lời — chúng ta có thể cần cho mô hình tiếp tục nén kinh nghiệm vào trọng số sau khi huấn luyện. Điều này đòi hỏi các kiến trúc thưa, mục tiêu meta-learning và vòng tự cải tiến tiến bộ. Nó có thể còn cần chúng ta định nghĩa lại ý nghĩa của "mô hình": không chỉ là một tập hợp trọng số cố định, mà còn là một hệ thống tiến hóa, chứa đựng ký ức, thuật toán cập nhật của nó, và khả năng trừu tượng hóa từ chính kinh nghiệm của nó. Các tủ hồ sơ ngày càng lớn. Nhưng dù lớn đến đâu, vẫn chỉ là tủ hồ sơ. Bước đột phá nằm ở chỗ làm thế nào để mô hình sau khi triển khai có thể thực hiện việc huấn luyện — nén, trừu tượng, học hỏi — chính điều làm cho nó mạnh mẽ. Chúng ta đang đứng trước ngã rẽ từ một mô hình mất trí nhớ sang một mô hình có thể tích lũy kinh nghiệm. Nếu không, chúng ta sẽ mãi mắc kẹt trong "Memento" của chính mình.
0
0
0
0