OpenAIとAnthropicの安全機能、攻撃的サイバー研究者の業務を妨害

AI TECH TIMESの報道によれば、未知の脆弱性を探し出してそれを悪用するためのツールを開発する攻撃的サイバーセキュリティ研究者たちが、OpenAIやAnthropicが導入している安全機能によってどのような影響を受けているのかについて、複数の研究者への取材が行われました。

セキュリティ研究の現場では、システムの弱点を突く検証作業やツール開発においてAI技術が活用される場面が増加しています。しかし、その一方でAIモデルに備わる過度な安全機能やガードレールが、正規のセキュリティ研究や脆弱性調査の妨げになっているという懸念が示されています。

今回の取材により、AI開発企業が設ける安全対策と、セキュリティ研究者が行う攻撃的な調査活動との間にある新たな課題が浮き彫りとなりました。今後、安全性の確保とセキュリティ研究の自由度をどのように両立していくのかが注目されます。