「llama.cpp」の記事一覧

• llama.cppのマルチモーダル対応文書公開

  2025-05-10 03:39

  IT・ネット

  llama.cppのドキュメント「multimodal.md」は、マルチモーダル処理への対応についての技術情報を簡潔にまとめた資料です。具体的な機能や使用方法の詳細は含まれていないものの、今後のアップデートや発展に関するフィードバックを歓迎する姿勢が表明されています。ユーザーとの対話を大切にし、オープンな開発を志向するプロジェクトのスタンスがうかがえます。

• Clippy風のLLMチャットアプリ登場

  2025-05-06 15:02

  IT・ネット

  「Clippy」は、90年代風のUIでローカルの大規模言語モデルを動かせるアプリです。llama.cppやnode-llama-cppを活用し、MetalやCUDAなど環境に応じた最適化が可能。ユーザーは設定不要で、オフライン・無料で利用可能。独自のモデルやプロンプトも読み込みでき、1990年代のノスタルジーと現代AIの融合を楽しめる設計です。マイクロソフト非公式のファンプロジェクトとして開発されました。