Google, Microsoft, Nvidia et OpenAI lancent CoSAI pour la sécurité de l'IA...

CoSAI, dirigé par Google, rassemble des entreprises et organisations technologiques de premier plan pour relever les défis de la sécurité de l'IA. Selon l'annonce, les membres fondateurs incluent Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal et Wiz.

Cette coalition a notamment pour objectif de créer des systèmes d’IA sécurisés dès leur conception, en s’appuyant sur des méthodologies open source et des cadres standardisés pour favoriser la confiance et la sécurité dans l’IA. L’annonce a souligné l’importance d’un cadre de sécurité pour l’intelligence artificielle, en s’appuyant sur le “Secure AI Framework (SAIF)”.

La CoSAI a pour objectif de promouvoir des mesures de sécurité globales pour l’IA, en abordant à la fois les risques actuels et émergents. En outre, la coalition se concentrera sur trois axes de travail initiaux : la sécurité de la chaîne d’approvisionnement logicielle pour les systèmes d’IA, la préparation des défenseurs à un paysage de cybersécurité en évolution et la gouvernance de la sécurité de l’IA.

Ces axes de travail visent à développer des pratiques exemplaires, des cadres d’évaluation des risques et des stratégies d’atténuation pour améliorer la sécurité de l’IA dans l’ensemble du secteur.

Focus sur la sécurité de l'IA

La création de la CoSAI répond au paysage fragmenté de la sécurité de l'IA. Actuellement, les développeurs sont confrontés à des directives incohérentes et cloisonnées, ce qui complique l'évaluation et l'atténuation des risques spécifiques à l'IA.

Cependant, la CoSAI vise à normaliser les pratiques et à améliorer les mesures de sécurité, en renforçant la confiance entre les parties prenantes à l'échelle mondiale. David LaBianca, coprésident du conseil d'administration de la CoSAI venant de Google, a souligné la nécessité de démocratiser les connaissances et les avancées pour une intégration sécurisée de l'IA. Il a déclaré :

“La création de CoSAI est née de la nécessité de démocratiser les connaissances et les avancées essentielles à l’intégration et au déploiement sécurisés de l’IA.”

Omar Santos de Cisco a fait écho à ce sentiment, soulignant l'importance de la collaboration entre les principales entreprises et les experts pour développer des normes de sécurité de l'IA robustes. La communauté open source de CoSAI accueille favorablement les contributions techniques de toutes les parties intéressées.

OASIS, l'organisme mondial de normalisation qui héberge CoSAI, invite également les entreprises impliquées dans le développement et le déploiement de l'IA à apporter leur soutien financier supplémentaire.

À mesure que la technologie de l'IA continue de progresser, le rôle de CoSAI dans l'établissement de pratiques de sécurité normalisées devient de plus en plus essentiel. En abordant les risques uniques associés aux systèmes d'IA, CoSAI vise à garantir que le développement et le déploiement de l'IA sont menés de manière responsable et sécurisée.

Cette coalition entre les géants de la technologie marque une étape importante dans la quête d’une IA sûre et digne de confiance…