G42 veröffentlicht sein Frontier AI Safety Framework

USA - Deutsch

• USA - English
• USA - English
• USA - Français
• USA - español
• Middle East - Arabic

• G42 unterzeichnete im Mai 2024 auf dem AI Seoul Summit die Frontier AI Safety Commitments.
• Ein Frontier AI Governance Board wird eingerichtet, um die Einhaltung von Vorschriften, Risikobewertungen und Schutzmaßnahmen für KI-Modelle zu überwachen.
• Unabhängige Prüfungen und Maßnahmen zur öffentlichen Transparenz stärken das Engagement von G42 für KI-Sicherheit und -Verantwortlichkeit.
• Klare Risikogrenzen legen fest, wann KI-Fähigkeiten eine erhöhte Sicherheit erfordern, einschließlich Biosicherheits- und Cybersicherheitsrisiken.

ABU DHABI, VAE, 6. Februar 2025 /PRNewswire/ -- G42, die in den Vereinigten Arabischen Emiraten ansässige Technologiegruppe, gab heute die Veröffentlichung ihres Frontier AI Safety Framework bekannt und bekräftigt damit ihr Engagement für die Frontier AI Safety Commitments des KI-Gipfels in Seoul und die Bletchley-Erklärung. Der Rahmen legt klare Protokolle für Risikobewertung, Governance und externe Aufsicht fest, um die sichere und verantwortungsvolle Entwicklung fortschrittlicher KI-Modelle zu gewährleisten.

Da die KI-Fähigkeiten weiter voranschreiten, legt das G42-Rahmenwerk Grenzwerte für die Fähigkeiten, unabhängige Steuerungsmechanismen und Sicherheitsvorkehrungen für die Bereitstellung fest, um KI-Risiken zu erkennen und zu mindern, bevor sie kritisch werden. Dieser Ansatz steht im Einklang mit den weltweit besten Praktiken und trägt zu den laufenden Bemühungen um die Sicherheit der KI weltweit bei.

„KI ist die prägende Technologie unserer Zeit – ein wesentlicher Nutzen, der Volkswirtschaften und Gesellschaften neu gestalten wird, ähnlich wie es die Elektrizität in der Vergangenheit getan hat", sagte Peng Xiao, Group CEO von G42. „Mit solcher Macht kommt auch Verantwortung. Dieser Rahmen spiegelt unser Engagement für die Sicherheit von KI wider und stellt sicher, dass Innovationen mit den richtigen Schutzmaßnahmen vorangetrieben werden."

Mit dem Frontier AI Safety Framework wird ein mehrstufiger Ansatz für das KI-Risikomanagement eingeführt, der sicherstellt, dass fortschrittliche KI-Systeme verantwortungsvoll entwickelt, getestet und eingesetzt werden. Es umfasst:

• G42 Frontier AI Governance Board – Unter der Leitung von Dr. Andrew Jackson, Chief Responsible AI Officer, Alexander Trafton, Head of Technology Risk; Martin Edelman, General Counsel und Adele O'Herlihy, Head of Responsible AI, überwacht dieses Gremium die Einhaltung von Modellen, Sicherheitsprotokolle und die Reaktion auf Vorfälle.
• Unabhängige Prüfungen und Transparenzmaßnahmen – G42 wird interne Governance-Audits durchführen und sich an jährlichen externen Überprüfungen beteiligen, um die Einhaltung der Vorschriften sicherzustellen. Das Unternehmen wird außerdem einen Transparenzbericht veröffentlichen, in dem die wichtigsten Erkenntnisse über die Sicherheit und die Risikobewertungen dargelegt werden.
• Definierte Risikoschwellen und Strategien zur Risikominderung – Das Rahmenwerk führt klare Fähigkeitsschwellenwerte ein, um biologische Bedrohungen, Cybersicherheitslücken und Risiken der autonomen Entscheidungsfindung zu bewerten. Wenn sich ein Modell diesen Schwellenwerten nähert, wird G42 zusätzliche Sicherheitsvorkehrungen treffen, das Systemverhalten ändern oder den Einsatz einschränken.

Die Entwicklung des Frontier AI Safety Framework wurde von führenden KI-Risikoexperten unterstützt, darunter METR und SaferAI, deren Erkenntnisse zur Gestaltung der im Rahmenwerk dargelegten Governance- und Risikominderungsstrategien beitrugen.

Als eines der ersten KI-Unternehmen im Nahen Osten, das einen umfassenden KI-Sicherheitsrahmen eingeführt hat, unterstreicht G42 seine Rolle als Vorreiter in Sachen KI-Governance und Risikominderung. Das Unternehmen wird weiterhin mit Regulierungsbehörden, politischen Entscheidungsträgern und Branchenpartnern zusammenarbeiten, um die Sicherheitspraktiken im Bereich der künstlichen Intelligenz zu stärken und zu globalen Governance-Diskussionen beizutragen.

„Die Sicherheit von KI ist eine kontinuierliche Aufgabe, die eine starke Führung, Verantwortlichkeit und branchenübergreifende Zusammenarbeit erfordert", sagte Dr. Andrew Jackson, Chief Responsible AI Officer von G42 und CEO von Inception. „Durch die Integration von Transparenz und proaktivem Risikomanagement in unsere KI-Systeme stellen wir sicher, dass Innovation verantwortungsbewusst bleibt und mit den gesellschaftlichen Interessen in Einklang steht."

Um das Frontier AI Safety Framework in die Praxis umzusetzen, hat G42 das X-Risks Leaderboard ins Leben gerufen, eine offene Bewertungsplattform, die die Risiken von KI-Modellen in den Bereichen Cybersicherheit, Chemie und Biologie misst. Es basiert auf der Safety Evaluation Suite von G42 bei der Einführung und bietet eine reale Bewertung der potenziellen Schwachstellen von KI, wodurch das Engagement von G42 für die Operationalisierung der KI-Sicherheit über politische Diskussionen hinaus in messbare, transparente Sicherheitsvorkehrungen gestärkt wird.

Aufbauend auf seinen bestehenden Partnerschaften mit Unternehmen wie Microsoft, NVIDIA, AMD, Cerebras und Qualcomm bleibt G42 der Zusammenarbeit mit anderen Unterzeichnern der Verpflichtungen verpflichtet und wird sich weiterhin an anderen Sicherheitsbemühungen beteiligen, indem es Bedrohungsinformationen mit Branchenpartnern austauscht, um gemeinsame Herausforderungen und neu auftretende Risiken anzugehen.

Informationen zu G42 

G42 ist eine Technologie-Holding, die weltweit führend in der Entwicklung visionärer künstlicher Intelligenz für eine bessere Zukunft ist. Das in Abu Dhabi gegründete und weltweit tätige Unternehmen G42 setzt sich branchenübergreifend für den Einsatz von KI zum Wohle der Menschen ein. Von der Molekularbiologie bis zur Erforschung des Weltraums und allem, was dazwischen liegt, realisiert G42 heute exponentielle Möglichkeiten. Weitere Informationen finden Sie unter www.g42.ai.G42. Das Frontier AI Safety Framework wird im Zuge der Weiterentwicklung von KI-Risiken, regulatorischen Rahmenbedingungen und technologischen Fortschritten kontinuierlich weiterentwickelt.

Laden Sie hier das vollständige Frontier AI Safety Framework herunter.

Medienkontakt
Für weitere Informationen wenden Sie sich bitte an TrailRunner International:
[email protected] 

Logo - https://mma.prnewswire.com/media/2158819/G42.jpg