「高速化」の記事一覧
-
Rust製モデル埋め込みツールModel2Vec
2025-05-18 15:01
IT・ネットModel2Vec-rsは、静的埋め込みモデル「Model2Vec」のRust実装であり、Hugging Face Hubなどからモデルを取得して高速にエンコード処理を実行できます。Python版より約1.7倍のスループットを実現し、高効率な推論を提供します。用途は文章類似度検索や検索タスクなどで、多言語対応モデルも含まれています。CLIとRustコードの両方で利用可能で、軽量かつ高速な埋め込み生成を実現することが特徴です。
-
Sep 0.10.0、AMD 9950Xで21GB/sを達成したCSVパーサー
2025-05-09 13:38
科学・技術Sep 0.10.0は、.NET 9.0環境とAVX-512対応CPU、特にAMDのZen 5アーキテクチャを活用することで、単一スレッドで最大21GB/sという驚異的なCSVパース速度を実現しました。従来のAVX-512パーサーの非効率性を回避するため、AVX-512-to-256パーサーを導入し、マスクレジスタの使用を抑制。さらに、Vector256ベースのクロスプラットフォーム対応や、マルチスレッドでの8GB/s超の実行性能も報告されています。ハードウェアとソフトウェアの進化が連携することで、大幅な性能向上が達成されました。
Page 1 / 1