「表現学習」の記事一覧

• 埋め込み空間の普遍的幾何構造を活用する新技術

  2025-05-21 18:15

  IT・ネット

  研究者たちは、異なるベクトル空間間でテキスト埋め込みをペアデータなしで翻訳可能にする新手法を発表しました。この手法は、あらゆるモデルの埋め込みを「プラトン的表現仮説」に基づく普遍的な意味構造に変換し、高い類似度で異空間へ変換できます。この技術により、埋め込みベクトルから元の文書に関する機密情報が推定される可能性が高まり、ベクトルデータベースのセキュリティにも大きな影響を及ぼします。

• 内部表現の質に疑問を投げかける新仮説：Fractured Entangled Representation

  2025-05-20 06:54

  科学・技術

  本論文は、ニューラルネットワークの性能向上が必ずしも良質な内部表現の構築につながらないことを示すものです。進化的手法で構築されたネットワークと、従来の勾配降下法で学習されたネットワークを比較した結果、同じ出力を得ても内部表現が大きく異なり、後者には「Fractured Entangled Representation（FER）」と呼ばれる混乱した構造が見られました。FERは汎化能力や創造性、継続学習能力に悪影響を与える可能性があり、その解明が今後のAI研究の鍵となると論じています。