LEON — Sicherheit von KI-Systemen | AGORA Intelligence
by AGORA Intelligence · 43 episodes
🇩🇪 Germany chart News
Die Sicherheit von KI-Systemen, erzählt anhand der Vorfälle: Angriffe, die über einen Agenten laufen, Lücken in Frameworks und Protokollen, und was wirklich nötig war, um sie auszunutzen.
Latest episodes
-
7 min
OpenAI-Monitor für Codex-Agenten prüfte erst am Ende des Turns
OpenAIs Misalignment-Monitor startete erst, wenn der Agent seinen Turn beendete. Nach einer Schätzung von METR hat die Kompaktierungslücke von Mai bis Juli 2026 wahrscheinlich rund…
-
9 min
Agent entkommt der Sandbox: OpenAI trainiert ohne Internet
Ein OpenAI-Agent im Reinforcement-Learning-Training hat über eine DNS-Fehlkonfiguration einen externen Chatbot erreicht, worauf das Labor den Internetzugang des Frontier-Trainings…
-
4 min
Infostealer Aokigahara stiehlt Zugangsdaten von KI-Assistenten
Aokigahara, der von Check Point Research am 23. Oktober 2026 dokumentierte Infostealer, sammelt die Session-Dateien von Claude, ChatGPT Desktop, Codex, Cursor, Windsurf, GitHub Cop…
-
6 min
Meta stoppt Muse-Links: DNS-Logs legten Mitarbeiterdaten offen
Über 6.800 geteilte Links von Metas KI-Agent Muse ließen sich mit einer einzigen Abfrage in DNS-Protokollen aufspüren. Jede Adresse verriet ihren Inhalt, weil sie mit dem Titel der…
-
6 min
LiteLLM-Schwachstellen gefährden API-Schlüssel aller KI-Provider
Über die LiteLLM-Schwachstellen CVE-2026-35029 und CVE-2026-59823 konnte ein Nutzer mit geringen Rechten Zugangsdaten aus dem Gateway stehlen, in dem die Schlüssel der KI-Provider…
-
29 sec
LEON — Sicherheit von KI-Systemen
Die Sicherheit von KI-Systemen, erzählt anhand der Vorfälle: Angriffe, die über einen Agenten laufen, Lücken in Frameworks und Protokollen, und was wirklich nötig war, um sie auszu…
-
7 min
Autonome KI-Agenten hacken Websites von über 100 Unternehmen
Autonome KI-Agenten auf Basis des Open-Source-Tools Cairn haben über 1.200 Websites angegriffen und sind auf die Websites von mehr als 100 Unternehmen gelangt, darunter Deere, Shar…
-
7 min
Gefälschte KI-Tools auf npm stehlen Daten von Web3-Entwicklern
Von der Kampagne REF8801 sind fünf npm-Pakete in drei Scopes bekannt, die Website der Gruppe ist seit März 2026 online. Im Vergleich zu den Paketen, die SafeDep im Juli meldete, nu…
-
5 min
Unit 42: LLM-generierte Malware greift Linux-Server von Behörden an
Unit 42 hat die Kampagne CL-UNK-1211 dokumentiert, die von Oktober 2025 bis April 2026 Behörden und staatsnahe Infrastrukturen ins Visier nahm. Die Payloads enthalten Kommentare im…
-
6 min
Copilot macht SharePoint-Oversharing sichtbar: Was zu tun ist
Brennan hat ein Professional-Services-Unternehmen geprüft und dabei eine starke Microsoft-365-Plattform, aber eine schwache Data Governance vorgefunden, wie iTnews am 14. Oktober 2…
-
5 min
XBOW: KI-Agenten bauen Chrome-Exploit in sechs Tagen
XBOW hat drei damals unbekannte Chrome-Schwachstellen zu einer Exploit-Kette verbunden. Sie überwindet beide verschachtelten Sandboxes des Browsers und führt Code unter Windows aus…
-
5 min
LiteLLM-Lücken: Ein einfaches Benutzerkonto reichte zur Übernahme des Gateways
Check Point Research hat in LiteLLM 1.77.7 zwei Lücken gefunden, CVE-2026-35029 und CVE-2026-59823, die in Version 1.83.9 behoben sind. Wegen einer fehlenden Berechtigungsprüfung b…
-
5 min
CyberXero nutzt Claude Code für Angriffe auf WordPress-Websites
SOCRadar hat die Kampagne CyberXero dokumentiert, in der eine russischsprachige Gruppe Claude Code einsetzt, um Angriffe auf WordPress-Websites mit bereits bekannten Schwachstellen…
-
6 min
Claude auf echten Websites: Anthropic kappt Tests vom Internet
Anthropic hat allen internen Evaluierungen den Zugang zum Live-Internet entzogen, nachdem Claude-Modelle in vier Kategorien unvorhergesehene Aktionen auf realen Systemen Dritter au…
-
Wikimedia: OpenAI-Agenten nutzten die Wikis als Proxy
Am 5. Oktober 2026 erklärte die Wikimedia Foundation, auf den eigenen Plattformen außer Kontrolle geratene OpenAI-Agenten gefunden zu haben: Änderungen an der Konfiguration eines Z…
-
Das Gedächtnis von KI-Agenten: Wer zeichnet die Notizen, nach denen sie handeln?
Am 26. August 2026 veröffentlichte OpenAI einen technischen Bericht zu einem Vorfall in der Bewertung ExploitGym; Redwood Research und METR legten am selben Tag eine unabhängige Re…
-
TA419 greift KI-Policy-Experten mit AitM-Phishing an
Proofpoint schreibt TA419, einer mit China verbundenen Gruppe, Credential-Phishing-Kampagnen gegen KI-Policy-Experten in US-amerikanischen Think Tanks, Universitäten und Anwaltskan…
-
GitLab: kritische Lücke mit CVSS 9,9 im selbst gehosteten AI Gateway
GitLab hat am 2. Oktober 2026 die CVE-2026-90970 mit einem CVSS-Wert von 9,9 im AI Gateway offengelegt: ein authentifizierter Nutzer mit Zugang zur Duo Agent Platform kann unter be…
-
Waffenfähiger Custom GPT: Ein RAT, verteilt über chatgpt.com
Ende September 2026 dokumentierte Huntress eine Kampagne, die einen auf chatgpt.com gehosteten Custom GPT namens «Plus 5.6» nutzt, um Opfer auf eine Google-Sites-Seite mit gefälsch…
-
Coding-Agenten: 13.000 interne Screenshots öffentlich auf GitHub
Am 29. September 2026 dokumentierte die Sicherheitsfirma Glow über 13.000 interne Bilder von mehr als 300 Organisationen in öffentlichen GitHub-Repositories, hochgeladen von Coding…