刚刚发现了一件有趣的事——有一个名为The Grid的新型市场框架,在推理领域采取了一种完全不同的方法。



他们没有采用我们习惯的传统模型API架构,而是将整个架构建立在基于任务的推理之上。想象一下:与其单纯调用API端点,你实际上是在围绕特定的计算任务来组织工作。

他们刚刚发布了技术蓝图,说实话,这种设计理念让人耳目一新。这属于那种“为什么以前没人想到”类型的创新。整个系统被设计为将推理请求作为离散的任务处理,而不是通用API调用。

对于任何在去中心化算力领域构建项目的人来说,这都值得关注。面向任务的结构可能真的能解决我们在传统模型服务架构中遇到的一些效率瓶颈。

很想看看一旦有人开始对其基础设施进行压力测试,这套方案在实际中会表现如何。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 7
  • 转发
  • 分享
评论
0/400
SwapWhisperervip
· 9小时前
效率提升有戏了
回复0
戴上帽子说话vip
· 17小时前
太强了必须干活
回复0
Sherlockervip
· 12-06 15:57
值得实践探索一下
回复0
FortuneTeller42vip
· 12-06 15:49
网格计算真有前途
回复0
Crypto金矿vip
· 12-06 15:49
布局正当时
回复0
主网延期通知书vip
· 12-06 15:42
还在用旧模型测试
回复0
BlockchainBouncervip
· 12-06 15:39
The Grid很有看头
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)