Der International AI Safety Report 2026 zeigt rasante Veränderungen und neue Risiken auf

USA - Deutsch

• USA - English
• USA - español
• USA - Français
• India - English

MONTREAL, 3. Februar 2026 /PRNewswire/ -- Der International AI Safety Report (Internationaler KI-Sicherheitsbericht) 2026 wird heute veröffentlicht und bietet eine aktuelle, international geteilte, wissenschaftlich fundierte Bewertung der Fähigkeiten von Allzweck-KI, neu auftretender Risiken und des aktuellen Stands des Risikomanagements und der Sicherheitsvorkehrungen.

Unter dem Vorsitz des Turing-Preisträgers Yoshua Bengio vereint diese zweite Ausgabe des International AI Safety Report über 100 internationale Experten und wird von einem Expertenbeirat mit Nominierten aus mehr als 30 Ländern und internationalen Organisationen, darunter die EU, die OECD und die UNO, unterstützt. Die Ergebnisse des Berichts werden in die Diskussionen auf dem AI Impact Summit einfließen, der Ende dieses Monats in Indien stattfindet.

Zu den wichtigsten Ergebnissen des Berichts gehören:

• Die Fähigkeiten von Allzweck-KI haben sich weiterhin rasant verbessert, insbesondere in den Bereichen Mathematik, Programmierung und autonomer Betrieb. 2025 erzielten führende KI-Systeme Goldmedaillen bei den Aufgaben der Internationalen Mathematik-Olympiade, übertrafen die Leistungen von Experten mit Doktorgrad bei wissenschaftlichen Benchmarks und waren in der Lage, einige Software-Engineering-Aufgaben, für die ein menschlicher Programmierer mehrere Stunden benötigen würde, autonom zu erledigen. Die Leistung bleibt dennoch „uneinheitlich", da die Systeme bei einigen scheinbar einfachen Aufgaben immer noch versagen.
• Die Einführung von KI verlief schnell, wenn auch weltweit uneinheitlich. KI wurde schneller eingeführt als frühere Technologien wie der Personal Computer, und mindestens 700 Millionen Menschen nutzen mittlerweile wöchentlich führende KI-Systeme. In einigen Ländern nutzt mehr als die Hälfte der Bevölkerung KI, während in weiten Teilen Afrikas, Asiens und Lateinamerikas die geschätzten Einführungsraten unter 10 % bleiben.
• Vorfälle im Zusammenhang mit Deepfakes nehmen zu. KI-Deepfakes werden zunehmend für Betrug und Scams genutzt. KI-generierte intime Bilder ohne Einwilligung, von denen Frauen und Mädchen überproportional betroffen sind, werden ebenfalls immer häufiger. Eine Studie ergab beispielsweise, dass 19 von 20 beliebten „Nudify"-Apps auf das simulierte Entkleiden von Frauen spezialisiert sind.
• Bedenken hinsichtlich des biologischen Missbrauchs haben zu strengeren Sicherheitsvorkehrungen für einige führende Modelle geführt. 2025 veröffentlichten mehrere KI-Unternehmen neue Modelle mit erhöhten Sicherheitsvorkehrungen, nachdem Tests vor der Einführung nicht ausschließen konnten, dass die Systeme Neulingen bei der Entwicklung biologischer Waffen erheblich helfen könnten.
• Böswillige Akteure wie Kriminelle nutzen allgemeine KI aktiv für Cyberangriffe. KI-Systeme können schädlichen Code generieren und Schwachstellen in Software aufdecken, die Kriminelle ausnutzen können. 2025 platzierte sich ein KI-Agent unter den besten 5 % der Teams in einem großen Cybersicherheitswettbewerb. Auf Untergrundmärkten werden mittlerweile vorgefertigte KI-Tools verkauft, die die Anforderungen an die Fähigkeiten für Angriffe senken.
• Viele Sicherheitsvorkehrungen werden verbessert, aber die derzeitigen Risikomanagementtechniken bleiben fehleranfällig. Während bestimmte Arten von Fehlern, wie z. B. „Halluzinationen", seltener geworden sind, sind einige Modelle nun in der Lage, zwischen Bewertungs- und Einsatzkontexten zu unterscheiden und ihr Verhalten entsprechend anzupassen, was neue Herausforderungen in Bezug auf Bewertung und Sicherheitstests mit sich bringt.

Der Vorsitzende des International AI Safety Report, Yoshua Bengio, Professor an der Université de Montréal, wissenschaftlicher Direktor von LawZero und wissenschaftlicher Berater von Mila – Quebec AI Institute, erklärte:

„Seit der Veröffentlichung des ersten International AI Safety Report vor einem Jahr haben wir erhebliche Fortschritte bei den Modellfähigkeiten, aber auch bei den potenziellen Risiken gesehen, und die Kluft zwischen dem Tempo des technologischen Fortschritts und unserer Fähigkeit, wirksame Sicherheitsvorkehrungen zu treffen, bleibt eine entscheidende Herausforderung. Der Bericht soll Entscheidungsträgern die notwendigen fundierten Erkenntnisse liefern, um KI in eine Zukunft zu lenken, die sicher und für alle von Nutzen ist. Mit der zweiten Ausgabe aktualisieren und stärken wir unser gemeinsames, wissenschaftlich fundiertes Verständnis der rasanten Entwicklung der KI-Pionierarbeit auf globaler Ebene."

Der britische Minister für KI, Kanishka Narayan, sagte:

„Vertrauen und Zuversicht in die KI sind entscheidend, um ihr volles Potenzial auszuschöpfen. Es handelt sich um eine Technologie, die bessere öffentliche Dienstleistungen, neue Beschäftigungsmöglichkeiten und Innovationen hervorbringen wird, die das Leben verändern werden. Wir sind jedoch auch entschlossen, die Sicherheit der Menschen im Zuge der Entwicklung dieser Technologie zu gewährleisten. Die verantwortungsvolle Entwicklung der KI ist eine gemeinsame Priorität, und wir können ihre Zukunft nur dann positiv gestalten, wenn wir zusammenarbeiten. Dieser Bericht hilft uns genau dabei – er bringt Experten aus der ganzen Welt zusammen, um sicherzustellen, dass wir über eine solide wissenschaftliche Evidenzbasis verfügen, um heute die richtigen Entscheidungen zu treffen, die die Grundlage für eine bessere und sicherere Zukunft bilden."

Informationen zum Internationalen KI-Sicherheitsbericht

Der International AI Safety Report ist eine Zusammenfassung der Erkenntnisse über die Fähigkeiten und Risiken fortschrittlicher KI-Systeme. Er soll weltweit eine fundierte Politikgestaltung unterstützen, indem er Entscheidungsträgern eine Evidenzbasis liefert. Der Bericht unter dem Vorsitz von Prof. Yoshua Bengio wurde von einer vielfältigen Gruppe von über 100 unabhängigen Experten verfasst und wird von einem Expertenbeirat unterstützt, der sich aus nominierten Vertretern aus über 30 Ländern und internationalen Organisationen wie der EU, der OECD und den Vereinten Nationen zusammensetzt. Der Bericht erkennt zwar die immensen potenziellen Vorteile der KI an, konzentriert sich aber auf die Ermittlung von Risiken sowie die Bewertung von Strategien zur Risikominderung, um sicherzustellen, dass die KI zum Nutzen aller sicher entwickelt und eingesetzt wird. Der Bericht wurde von der britischen Regierung in Auftrag gegeben, wobei sich das Sekretariat im britischen AI Security Institute befindet, um operative Unterstützung zu leisten.