Alarm in der KI-Branche durch neue Angriffsmethode Der neueste Vorfall macht deutlich, wie angreifbar die Sicherheitsmechanismen moderner KI-Modelle sind. Forschende haben einen sogenannten KI-Jailbreak entwickelt, der die Schutzfilter von bekannten Sprachmodellen wie GPT, Claude, Gemini und Grok nahezu vollständig umgeht.
Ein innovatives Team von Sicherheitsforschern hat einen bedeutenden Fortschritt in der KI-Sicherheit erzielt.
Wachsende Bedrohungen im Cyberraum Der Cato CTRL Threat Report 2025 von Cato Networks hebt die zunehmenden Risiken durch sogenannte „Zero-Knowledge“-Angreifer hervor. Diese Angreifer benötigen keine speziellen Programmierkenntnisse.
Cyberkriminelle haben ihre Ziele erweitert. Ihre neuen Opfer sind KI-Modelle. Dieser Artikel konzentriert sich auf die Methode des LLMjackings, bei der große Sprachmodelle wie DeepSeek attackiert werden. Neueste Berichte dokumentieren, wie ausgeklügelt die Angreifer vorgehen. Was ist LLMjacking?
Meta gerät wieder in die Schlagzeilen. Der Konzern soll über 81 Terabyte an Daten von Schattenbibliotheken heruntergeladen haben. Diese Situation führt zu einem Urheberrechtsstreit in Bezug auf KI-Daten. Langsame Downloads und große Datenmengen Der Downloadprozess war schleppend.
Amazon hat mit der Integration von generativer Künstlicher Intelligenz (KI) in Alexa Schwierigkeiten. Technische Herausforderungen sind der Grund für die Verzögerungen. Halluzinationen und lange Latenzzeiten bremsen den Fortschritt. Die Verknüpfung mit bestehenden Systemen ist deutlich komplexer als zunächst angenommen.
Die Entwicklung der künstlichen Intelligenz schreitet rasant voran. Fortschritte bringen jedoch auch neue Sicherheitsrisiken mit sich. Eine alarmierende Schwachstelle in KI-Sprachmodellen erregt aktuell Aufsehen. Forscher von Palo Alto Networks haben einen neuen Jailbreak entdeckt.
Ecovacs Saugroboter haben die Fähigkeit, Fotos, Videos und Sprachaufnahmen aus dem heimischen Umfeld ihrer Nutzer zu sammeln. Das chinesische Unternehmen Ecovacs Robotik vertreibt diese Heimroboter und beteuert, die gesammelten Daten für KI-Training zu verwenden. Spionage sei nicht das Ziel, so die Aussage des Unternehmens.
Der Kampf um kreative Authentizität In einer Ära, wo künstliche Intelligenz (KI) an Einfluss gewinnt, erheben bekannte Musikkünstler wie Pearl Jam, Nicki Minaj und Billie Eilish ihre Stimmen. Ein am Dienstag herausgekommener offener Brief offenbart das Unbehagen. Mehr als 200 Künstler haben ihn unterschrieben.
Immer wieder geraten Technologiegiganten wie NVIDIA aufgrund der Verwendung von KI-Modellen in rechtliche Schwierigkeiten. Die jüngste Entwicklung in dieser Hinsicht ist eine Sammelklage, die von einer Gruppe von Autoren gegen NVIDIA eingereicht wurde.