- G42 a signé les Frontier AI Safety Commitments lors du Sommet de l’IA à Séoul, en mai 2024.
- Un conseil de gouvernance Frontier AI est mis en place pour superviser la conformité, l’évaluation des risques et les mesures de protection des modèles d’IA.
- Des audits indépendants et des mesures de transparence publique renforcent l’engagement de G42 en faveur de la sécurité de l’IA et de la responsabilité.
- Des seuils de risque clairs définissent quand les capacités d’IA nécessitent une sécurité renforcée, y compris les risques de biosécurité et de cybersécurité.
ABOU DABI, ÉAU, 6 février 2025 /PRNewswire/ — G42, le groupe technologique basé aux Émirats arabes unis, annonce aujourd’hui la publication de son Frontier AI Safety Framework, renforçant ainsi son engagement envers les Frontier AI Safety Commitments du Sommet de l’IA à Séoul et la Déclaration de Bletchley. Le cadre établit des protocoles clairs pour l’évaluation des risques, la gouvernance et la surveillance externe afin de garantir le développement sûr et responsable de modèles d’IA avancés.
Alors que les capacités d’IA continuent de progresser, le cadre de G42 établit des seuils de capacité d’avant-garde, des mécanismes de gouvernance indépendants et des garanties de déploiement afin d’identifier et d’atténuer les risques liés à l’IA avant qu’ils ne deviennent critiques. Cette approche s’aligne sur les meilleures pratiques mondiales et contribue aux efforts déployés dans le monde entier en matière de sécurité de l’IA.
« L’IA est la technologie déterminante de notre époque, un service public essentiel qui remodèlera les économies et les sociétés, tout comme l’électricité l’a fait dans le passé », déclare Peng Xiao, CEO du groupe, G42. « Un tel pouvoir implique des responsabilités. Ce cadre reflète notre engagement en faveur de la sécurité de l’IA, en veillant à ce que l’innovation progresse avec les bonnes garanties en place. »
Le Frontier AI Safety Framework introduit une approche à plusieurs niveaux de la gestion des risques liés à l’IA, garantissant que les systèmes d’IA avancés sont développés, testés et déployés de manière responsable. Il comprend :
- Le conseil de gouvernance G42 Frontier AI – Dirigé par Andrew Jackson, Chief Responsible AI Officer, Alexander Trafton, Head of Technology Risk, Martin Edelman, General Counsel et Adele O’Herlihy, Head of Responsible AI, le conseil supervise la conformité du modèle, les protocoles de sécurité et la réponse aux incidents.
- Des audits indépendants et mesures de transparence – G42 effectuera des audits internes de gouvernance et s’engagera dans des examens externes annuels pour garantir la conformité. L’entreprise publiera également un rapport de transparence présentant des informations clés sur la sécurité et l’évaluation des risques.
- Des seuils de risque et des stratégies d’atténuation définis – Le cadre introduit des seuils de capacité clairs pour évaluer les menaces biologiques, les vulnérabilités en matière de cybersécurité et les risques liés à la prise de décision autonome. Si un modèle s’approche de ces seuils, G42 mettra en œuvre des mesures de protection supplémentaires, modifiera les comportements du système ou limitera le déploiement.
L’élaboration du Frontier AI Safety Framework a bénéficié du soutien d’éminents experts en risques liés à l’IA, dont le METR et SaferAI, dont les avis ont contribué à façonner les stratégies de gouvernance et d’atténuation des risques décrites dans le cadre.
En tant que l’une des premières entreprises d’IA au Moyen-Orient à introduire un cadre complet de sécurité de l’IA, G42 renforce son rôle de leader en matière de gouvernance de l’IA et d’atténuation des risques. L’entreprise continuera à collaborer avec les régulateurs, les décideurs politiques et les partenaires industriels pour renforcer les pratiques de sécurité de l’IA et contribuer aux discussions sur la gouvernance mondiale.
« La sécurité de l’IA est un effort continu qui nécessite une gouvernance, une responsabilité et une collaboration solides entre les industries », déclare Andrew Jackson, Chief Responsible AI Officer de G42 et CEO d’Inception. « En intégrant la transparence et la gestion proactive des risques dans nos systèmes d’IA, nous veillons à ce que l’innovation reste responsable et conforme aux intérêts de la société. »
Pour mettre en pratique le Frontier AI Safety Framework, G42 a lancé le X-Risks Leaderboard, une plateforme d’évaluation ouverte qui mesure les risques liés aux modèles d’IA dans les domaines de la cybersécurité, de la chimie et de la biologie. Basé sur la suite d’évaluation de la sécurité de G42, il fournit une évaluation réelle des vulnérabilités potentielles de l’IA, renforçant l’engagement de G42 à rendre opérationnelle la sécurité de l’IA au-delà des discussions politiques et à mettre en place des mesures de protection mesurables et transparentes.
S’appuyant sur ses partenariats existants avec des entreprises telles que Microsoft, NVIDIA, AMD, Cerebras et Qualcomm, G42 reste déterminé à collaborer avec d’autres signataires des engagements et continuera à participer à d’autres efforts de sécurité en partageant des informations sur les menaces avec des partenaires de l’industrie afin de relever des défis communs et de faire face à des risques émergents.
À propos de G42
G42 est un holding technologique, leader mondial dans la création d’une intelligence artificielle visionnaire pour un avenir meilleur. Née à Abou Dabi et présente dans le monde entier, G42 défend l’IA comme une force puissante au service du bien dans tous les secteurs d’activité. De la biologie moléculaire à l’exploration spatiale et tout ce qui se trouve entre les deux, G42 réalise aujourd’hui des possibilités exponentielles. Pour en savoir plus, visitez le site www.g42.ai. G42 optimisera sans relâche le Frontier AI Safety Framework pour répondre à l’évolution des risques liés à l’IA, des environnements réglementaires et des avancées technologiques.
Téléchargez le Frontier AI Safety Framework dans son intégralité en cliquant ici.
Contact avec les médias
Pour plus d’informations, veuillez contacter TrailRunner International :
[email protected]
Logo – https://mma.prnewswire.com/media/2158819/G42.jpg
