Laut dem „Trend State of AI Security Report“ von Trend Micro setzen sich immer mehr KI-Entwickler und IT-Führungskräfte dem Risiko von Datendiebstahl, Data Poisoning, Lösegeldforderungen und anderen Angriffen aus. Denn das Angriffspotenzial durch die Nutzung der Möglichkeiten von KI sei enorm.
Spezialisierte Software-Komponenten gefragt
Unternehmen, die KI-Anwendungen entwickeln, bereitstellen und nutzen möchten, sollten dem Report nach mehrere spezialisierte Software-Komponenten und -Frameworks einsetzen. Diese können Schwachstellen enthalten, wie sie auch in herkömmlicher Software zu finden sind – insbesondere werden Zero-Day-Schwachstellen und Exploits in Kernkomponenten wie ChromaDB, Redis, NVIDIA Triton und NVIDIA Container Toolkit erwähnt.
Auch seien die Schwachstellen häufig das Ergebnis von überstürzten Entwicklungs- und Bereitstellungszeitplänen, ebenso wie Fälle, in denen KI-Systeme versehentlich vom Internet aus zugreifbar gemacht werden, wo sie von Angreifern untersucht werden können. Vor diesem Hintergrund hat Trend Micro über 200 ChromaDB-Server, 2.000 Redis-Server und über 10.000 Ollama-Server gefunden, die ohne Authentifizierung zugänglich sind.
Pwn2Own-Wettbewerb
Den Experten nach nutzen viele KI-Frameworks und -Plattformen auch Open-Source-Software-Bibliotheken. Open-Source-Komponenten enthalten jedoch häufig Sicherheitslücken, die sich in Produktionssysteme einschleichen und dort nur schwer zu erkennen sind. Beim Pwn2Own-Hacking-Wettbewerb haben IT-Forscher einen Exploit für die Vektordatenbank Redis entdeckt, der auf eine veraltete Lua-Komponente zurückzuführen war.
Auch heißt es in dem Bericht: „Ein Großteil der KI-Infrastruktur läuft auf Containern und ist somit denselben Sicherheitslücken und Bedrohungen ausgesetzt, die auch Cloud- und Container-Umgebungen betreffen.“ So haben die IT-Forscher beim Pwn2Own einen Exploit für das NVIDIA Container Toolkit aufgedeckt. Unternehmen sollten Eingaben bereinigen und das Laufzeitverhalten überwachen, um solche Risiken zu minimieren, so der Rat.
Kommentare