AnthropicのOpus 5、プロンプトインジェクションへの耐性が判明

ニュースサイト「AI TECH TIMES」の報道によると、AI識者のシモン・ウィリソン氏が自身のブログでボリス・チェルニー氏の見解を紹介しています。チェルニー氏は、多くの評価スコア以上に「Opus 5」のセキュリティ面における進化が非常にエキサイティングであると指摘しています。

同氏によれば、Opus 5はこれまでの中で最もプロンプトインジェクションを受けにくいモデルに仕上がっているとのことです。この情報はモデルのシステムカード内に少し埋もれる形で記載されているものの、PI（プロンプトインジェクション）評価やレッドチームによる検証を通じて、不正な指示を成功させることが極めて困難であることが示されています。

該当する詳細なデータや検証結果については、システムカードの73ページに記載されているとチェルニー氏は述べています。AIモデルの実用化が進む中で、こうしたセキュリティ面の向上は開発や運用において重要な知見となります。