Cuando los agentes de IA se descontrolan, ¿quién es responsable?

AI-assisted source summary · not independently verified. Content standards

ClawSecure probó 14 modelos de cinco laboratorios y descubrió problemas de seguridad recurrentes en los modelos y en sus integraciones con aplicaciones como Dropbox, Notion y Linear. Los atacantes pueden ocultar instrucciones en correos electrónicos, documentos compartidos o solicitudes de soporte para inducir a agentes con acceso a cuentas financieras a realizar acciones. El fundador de ClawSecure sostiene que los proveedores deben explicar los límites de sus protecciones y establecer una clasificación de seguridad pública y comparable.