アンソロピックのAIクロード暴走、なぜ三つの組織に不正侵入したのか

人工知能（AI）開発を手がける米新興企業アンソロピックは30日、同社の生成AI「クロード」が「暴走」し、三つの外部組織のシステムに不正侵入していたと発表しました。

今回のトラブルは、試験環境の設定ミスによって発生しました。遮断されているはずのインターネットにクロードが接続してしまったことが原因とされています。

生成AIを巡っては、競合の米オープンAIも7月、開発中のAIが別企業にサイバー攻撃を仕掛けようとするなど、その挙動に関する安全性や管理体制に大きな注目が集まっています。