Zweite wichtige Aktualisierung des internationalen KI-Sicherheitsberichts veröffentlicht
MONTREAL, 26. November 2025 /PRNewswire/ -- Die zweite wichtige Aktualisierung des internationalen KI-Sicherheitsberichts (International AI Safety Report) wurde veröffentlicht und bietet eine zeitnahe Aktualisierung zum Risikomanagement und zu technischen Gegenmaßnahmen für allgemein einsetzbare KI.
Unter dem Vorsitz des Turing-Award-prämierten Informatikers Yoshua Bengio wurde der Bericht von mehr als 100 internationalen Experten erarbeitet und von über 30 Ländern sowie Organisationen wie der EU, der OECD und der UN unterstützt.
Da sich das Feld inzwischen zu schnell für einen einzigen jährlichen Bericht entwickelt, wurden diese wichtigen Aktualisierungen eingeführt, um kürzere, gezielte Berichte zu zentralen Entwicklungen bereitzustellen. Die jetzige Aktualisierung folgt auf die erste wichtige Aktualisierung, die am 15. Oktober 2025 erschienen ist. Diese Aktualisierungen stellen sicher, dass politische Entscheidungsträger über eine aktuelle Zusammenfassung der Literatur verfügen, die eine evidenzbasierte Politikgestaltung unterstützt.
Die zweite wichtige Aktualisierung bietet einen Überblick über technische Verfahren zur Verbesserung der Zuverlässigkeit und zur Verhinderung von Missbrauch sowie über neue institutionelle Ansätze für das Risikomanagement. Zu den wichtigsten Punkten gehören:
- Es wurden Fortschritte dabei erzielt, Modelle so zu trainieren, dass sie böswilligen Angriffen widerstehen, doch bleiben weiterhin Lücken. Zwar sind KI-Modelle sowie Systeme robuster gegenüber Angriffen geworden, dennoch gelingt es versierten Hackern in rund 50 Prozent der Fälle, mit nur zehn Versuchen die Schutzmechanismen zu umgehen, und Modelle können durch das Einschleusen von lediglich rund 250 böswilligen Dokumenten in die Trainingsdaten kompromittiert werden.
- Die Open-Source-Lücke schließt sich. Open-Weight-Modelle liegen inzwischen weniger als ein Jahr hinter den Branchenführern zurück, was den Zugang demokratisiert, aber die Bemühungen erschwert, Fehlfunktionen und Missbrauch zu verhindern.
- Die Sicherheitsverpflichtungen der Industrie haben zugenommen, doch ihre Wirksamkeit ist unbekannt. Obwohl sich die Zahl der KI-Unternehmen, die Risikomanagementrahmen einführen, im Jahr 2025 mehr als verdoppelt hat, ist ihre Wirksamkeit in der Praxis weiterhin ungewiss.
Der Vorsitzende des International AI Safety Report, Yoshua Bengio, Professor an der Université de Montréal, wissenschaftlicher Direktor von LawZero und wissenschaftlicher Berater von Mila – Quebec AI Institute, erklärte:
„Während wir die Entwicklungen bei den Fähigkeiten und Risiken von KI weiter verfolgen, ist es entscheidend, zugleich klare Wege für angemessenes und wirksames Risikomanagement sowie technische Gegenmaßnahmen aufzuzeigen. Diese wichtige Aktualisierung bietet einen Überblick über die erzielten Fortschritte in diesen Bereichen und über die Lücken und Chancen, die weiterhin bestehen. Unser Ziel ist es, Entscheidungsträgerinnen und Entscheidungsträger weltweit fortlaufend mit zeitnahen Aktualisierungen zu den Entwicklungen im KI-Bereich zu versorgen, im Vorfeld des zweiten Internationalen KI-Sicherheitsberichts, der Anfang 2026 erscheinen soll, noch vor dem AI Impact Summit in Indien."
Informationen zum International AI Safety Report
Der International AI Safety Report ist eine Zusammenfassung der Erkenntnisse über die Fähigkeiten und Risiken fortschrittlicher KI-Systeme. Er soll weltweit eine fundierte Politikgestaltung unterstützen, indem er Entscheidungsträgern eine Evidenzbasis liefert. Der Bericht wurde von einer Gruppe von über 100 unabhängigen Experten verfasst und wird von einem beratenden Expertengremium unterstützt, das sich aus benannten Vertretern von über 30 Ländern und internationalen Organisationen wie der EU, der OECD sowie den Vereinten Nationen zusammensetzt. Der Bericht erkennt zwar die immensen potenziellen Vorteile der KI an, konzentriert sich aber auf die Ermittlung von Risiken sowie die Bewertung von Strategien zur Risikominderung, um sicherzustellen, dass die KI zum Nutzen aller sicher entwickelt und eingesetzt wird. Der Bericht wurde von der Regierung des Vereinigten Königreichs in Auftrag gegeben; das Sekretariat ist beim britischen AI Security Institute angesiedelt.
Kontakt: Mila Medias ([email protected]); DSIT Media Enquiries ([email protected])
Diese Übersetzung wurde von PRNewswire zur Verfügung gestellt.
Share this article