Apple SiliconでLLMを自作サーブする入門講座
🕒
🔗
元記事を見る
カテゴリ
科学・技術Apple Silicon環境でMLXを用いてLLMサービングを学ぶ講座『tiny-llm』を紹介。高レベルAPIを使わず、配列・行列操作からモデルサービングインフラを構築していく。