AIエージェントが制御不能になったとき、誰が責任を負うのか？

AI-assisted source summary · not independently verified. Content standards

ClawSecureは5つの研究所の14モデルをテストし、モデルおよびDropbox、Notion、Linearなどのアプリとの連携で、セキュリティ上の問題が繰り返し見つかった。攻撃者はメール、共有ドキュメント、サポートチケットに指示を隠し、金融口座へのアクセス権を持つエージェントを誘導して操作を実行させることができる。ClawSecureの創業者は、サービス提供者が防御の範囲を説明し、公開され比較可能なセキュリティ評価を確立すべきだと主張している。