Pangramは、広く使用されている人工知能生成テキスト検出ツールを製造している企業であり、最近、AI生成の画像や動画をマークする新しいツールを発表した。この更新により、Pangramのサブスクリプションユーザーは動画をアップロードし、その動画がAIによって作成または編集されたかどうかの評価を受けることができる。同社によれば、このツールは「部分的にAI生成」と「完全にAI生成」の動画クリップを区別できる。また、このツールには、動画内でAI生成の可能性がある部分をマークする「ヒートマップ」機能も搭載されている。
同社が提供した情報によれば、動画検出能力を支えるモデルは「最先端のAI動画検出において特に優れたパフォーマンスを発揮」し、テストでは他の検出ツールよりも効果的にAI動画を識別した。内部テストでは、この動画モデルがAIコンテンツを98%以上の精度でマークできることが示された。Pangramはまた、AI画像検出能力もアップグレードした。同社は以前、画像モデルの研究プレビュー版Pangram Image 1.0を発表しており、現在このモデルは同社のChrome拡張機能を通じて利用可能であり、ユーザーがブラウジング中に自動的に画像をスキャンし、AI生成の可能性がある画像をマークすることができる。
Pangramの新ツールがAIコンテンツ検出の精度を向上させる
同社によれば、画像モデルはテスト中に99%以上の精度でAI画像をマークでき、誤報率はわずか0.27%である。もちろん、他のAI画像検出ツールと同様に、いくつかの制限が存在する。同社は、解像度が512 x 512未満の場合、「結果には信頼度が低下する旨の声明が付随する」と述べている。これにより、PangramのCEOであるMax SperoがPinterestサイトで示したChrome拡張の操作において、明らかに元の写真ではない2枚の画像に「不確定」と表示された結果が説明できる。
Speroは、画像検出モデルの開発には他の課題もあると指摘した。「ほとんどのスマートフォンカメラ、特にiPhoneは、実際の写真に詳細を加えるためにある程度のAI後処理を行います」と、彼はXサイトの投稿で説明した。「私たちは、このような後処理に対して堅牢なモデルを構築し、AI編集と完全にAI生成された視覚効果の違いを理解する必要があります。」彼はPirate Wiresに対し、同社は画像モデルの発表を遅らせたと述べ、いくつかのiPhone 18 Proでテストを行った結果、最初はこれらのスマートフォンカメラで撮影された画像をAI生成としてマークしていたことを明らかにした。
Pangramの新しいAI画像および動画検出機能は、現在すべてのPangramサブスクリプションユーザーに開放されている。同社は、無料アカウントを持つユーザーが少量の画像を検査できるようにし、登録なしで利用できるようにしている。