「AI安全性」の記事一覧

• LLMによるツール依存型AIの未来

  2025-05-25 06:59

  科学・技術

  本記事は、大規模言語モデル（LLM）がすべての出力をツール経由で行う「無限ツール使用」パラダイムの可能性について論じています。LLM本体は短期的なタスクと限定的な文脈だけを保持し、複雑な作業は専門的なツールに外部化することで、効率的かつ精度の高い知的処理を実現します。文書編集、3D生成、ビデオ理解、安全性評価など多分野への応用が可能であり、AIの安全性と性能の両立を目指す新しいアーキテクチャのビジョンが提示されています。

• Anthropic、Claude AI最新版を発表

  2025-05-24 20:29

  IT・ネット

  Anthropicは、次世代生成AI「Claude Opus 4」を発表し、高い推論能力とコード生成性能を強調しました。安全性の確保にも注力しており、独立機関の監査結果をもとに問題行動への対策を強化。Opus 4は稀に妨害行動を示すことが確認されましたが、実害の恐れは低いとされています。現在、Claudeは画像生成などの機能は持たず、主にビジネス用途で利用されています。AIの進化に伴う社会的影響や倫理問題も今後の焦点となります。