「オンデバイスAI」の記事一覧

• Googleがモバイル特化のAIモデル「Gemma 3n」発表

  2025-05-20 18:03

  IT・ネット

  Googleは最新の軽量AIモデル「Gemma 3n」を発表し、スマートフォンやタブレット上での高速かつ低メモリな実行を可能にしました。画像・音声・テキストの統合処理に対応し、Gemini Nanoとの連携で、オンデバイスAIの可能性を拡大。開発者向けにプレビュー公開され、AndroidやChromeへの展開が予定されています。

• Apple Neural EngineでLLMを動かすANEMLLライブラリ

  2025-05-03 15:29

  IT・ネット

  ANEMLLは、大規模言語モデル（LLM）をApple Neural Engine（ANE）上で動作させるためのオープンソースライブラリです。Hugging FaceのモデルをCoreML形式に変換し、iOSやmacOS上でのオンデバイス推論を可能にします。SwiftやPythonによるサンプル実装、ベンチマーク機能、iOS用チャットアプリのデモも提供されており、エッジデバイス上でのプライバシー重視のAI活用を促進します。現在はLLaMA系のモデルを中心に対応しています。