「Apple Silicon」の記事一覧

• Final Cut用キャプション支援ツール「TitleBridge」

  2025-05-21 01:38

  IT・ネット

  TitleBridgeは、Final Cut Proユーザー向けに設計された字幕作成支援ツールです。Apple Silicon搭載Macを推奨しており、音声認識によるキャプション生成を内部で処理可能です。ただし必須ではなく、非対応機種では手動入力や外部ツールの使用が必要です。プライバシーにも配慮され、ユーザー情報の自動送信は行われません。技術的な問題にはGitHub経由でのサポート体制が整っています。

• KVSplit、Apple Silicon向けLLMのメモリ効率化技術を公開

  2025-05-16 20:04

  科学・技術

  GitHubプロジェクト「KVSplit」は、Apple Silicon上で大規模言語モデルを効率的に動作させるために、Attention機構のKVキャッシュにおけるキーとバリューを別々の精度で量子化する手法を提供しています。K8V4構成（キー8ビット・バリュー4ビット）では、メモリを59％削減しつつ精度劣化は1％未満。Metal最適化による高速推論や、直感的な可視化ツール、簡単なセットアップも特徴です。最大72％のメモリ削減が可能で、長文コンテキスト処理にも効果的です。

• Apple SiliconでLLMを自作サーブする入門講座

  2025-04-28 11:24

  科学・技術

  Apple Silicon環境でMLXを用いてLLMサービングを学ぶ講座『tiny-llm』を紹介。高レベルAPIを使わず、配列・行列操作からモデルサービングインフラを構築していく。