大模型訓練のイテレーションにおける痛点は誰もが理解している——データはしばしば10TBから始まり、更新ごとに再アップロードが必要で、その手間と時間、ストレージコストだけでも相当なものだ。

Walrusは最近この問題に対して最適化を行った。コアの改善点はスライスレベルの増分更新機能で、変更されたデータブロックだけをアップロードし、他はそのままにしておく。聞こえは簡単だが、効果は明らかだ。実際のケースでは、10TBの訓練データセットのイテレーションにおいて、この方法を採用した結果、時間は従来の数時間から15分に直接圧縮された。コスト面でも大きな削減が見られ、ストレージコストを70%節約できた。

中小規模のAI企業にとって、このようなソリューションは非常に実用的だ。時間を節約できるだけでなく、運用コストも大幅に削減でき、データのイテレーション効率も向上し、ストレージの負担も軽減される。良い選択肢に見える。