Metaは7月12日(現地時間)、画像理解を伴う人間とAIの会話を保護するマルチモーダルな大規模言語モデル（LLM）ベースのセーフガード「Llama Guard 3 Vision」を発表した。このモデルは、マルチモーダルLLMの入力（プロンプト分類）と出力（応答分類）の両方でコンテンツを保護することを目的としている。従来のテキストのみのLlama Guardとは異なり、画像推論のユースケースをサポートし、有害なマルチモーダル（テキストと画像）プロンプトとそれに対するテキスト応答の検出に最適化されている。
生成AIの進化に伴い、テキストだけでなく画像を含むマルチモーダルな情報処理能力が向上している。これにより、人間とAIのインタラクションはより自然になる一方で、不適切、有害、あるいは誤解を招くコンテンツが生成・拡散されるリスクも増大している。特に、視覚情報が加わることで、検出が困難な複雑な形態の有害コンテンツが出現する可能性があり、その対策は喫緊の課題となっている。
Metaが発表したLlama Guard 3 Visionは、この新たな課題に対応するための重要な一歩となる。同モデルは、マルチモーダルLLMのセーフガードとして機能し、人間とAIの会話における安全性を高めることを目指す。従来のコンテンツモデレーションシステムは、主にテキストベースの情報に焦点を当てていたが、Llama Guard 3 Visionは、画像とテキストが複合的に絡み合う有害なプロンプトや応答を識別する能力を持つ。これは、視覚的な要素が有害性を示す上で決定的な役割を果たすシナリオにおいて、特に有効性を発揮する。
Llama Guard 3 Visionは、同社のLlama 3.2-Vision上でファインチューニングされており、社内ベンチマークにおいてMLCommons分類法を用いた高い性能を示している。さらに、敵対的攻撃に対する堅牢性も検証されており、悪意のあるユーザーがシステムを回避しようとする試みに対しても、一定の耐性を備えていることが明らかにされている。このような堅牢性は、現実世界の多様な脅威に対応する上で不可欠である。
Metaは、Llama Guard 3 Visionを、マルチモーダル機能を備えた人間とAIの会話に向けた、より高性能で堅牢なコンテンツモデレーションツールを構築するための出発点と位置付けている。AIシステムを開発・運用する企業や研究者にとって、この種のセーフガードモデルは、責任あるAI開発の推進において重要な役割を果たす。特に、顧客対応、教育、エンターテイメントなど、幅広い分野でマルチモーダルAIの導入が進む中で、有害コンテンツの検出・排除能力は、ユーザーの信頼を獲得し、プラットフォームの健全性を維持するために不可欠な要素となる。
この研究は、Jianfeng Chi、Ujjwal Karn、Hongyuan Zhan、Eric Smith、Javier Rando、Yiming Zhang、Kate Plawiak、Zacharie Delpierre Coudert、Kartikeya Upasani、Mahesh Pasupuletiが執筆し、arXivで公開されている。
参考: ai.meta.com (アーカイブ) — 2026年7月13日 09:00 (JST)