Wer trägt die Verantwortung, wenn KI-Agenten außer Kontrolle geraten?

AI-assisted source summary · not independently verified. Content standards

ClawSecure testete 14 Modelle aus fünf Laboren und stellte wiederholt Sicherheitsprobleme sowohl bei den Modellen als auch bei deren Integrationen mit Anwendungen wie Dropbox, Notion und Linear fest. Angreifer können Anweisungen in E-Mails, geteilten Dokumenten oder Support-Tickets verstecken und Agenten mit Zugriff auf Finanzkonten dazu bringen, Aktionen auszuführen. Der Gründer von ClawSecure fordert von Dienstanbietern, die Grenzen ihrer Schutzmaßnahmen offenzulegen und eine öffentliche, vergleichbare Sicherheitsbewertung einzuführen.