GoogleのTurboQuant、チャットボット用AIデータを6分の1のメモリ使用量で圧縮
• Googleのエンジニアは、性能を損なうことなく、AIデータを最大6分の1のワーキングメモリで済むように圧縮する手法「TurboQuant」を開発した。 • このシステムにより、ハードウェア要件を抑えつつ、AIアルゴリズムが情報を保持し、強力な演算を行うことが可能になる。 • この画期的な進歩により、リソースの限られたデバイス上で高度なチャットボットやAIモデルを展開する際の障壁が低くなる。
元記事を読む · livescience.com
Live Science

