OpenAI renforce son niveau de vigilance grâce à de nouvelles mesures de sécurité pour ses modèles d’intelligence artificielle
La société OpenAI a dévoilé une nouvelle série de mesures visant à renforcer les normes de sécurité et de sûreté, dans le but de limiter les risques d'incidents de sécurité susceptibles de survenir lors des phases de test et de développement des modèles d'intelligence artificielle.
La société américaine a indiqué que l’adoption de ces mesures était liée, en partie, aux capacités avancées en matière de cybersécurité dont dispose un modèle à venir, ainsi qu’au rythme accéléré du développement des technologies d’intelligence artificielle.
Ce plan prévoit d’étendre la surveillance minutieuse du comportement des modèles tout au long des différentes phases de développement, tout en accordant une attention accrue à l’harmonisation des modèles et à la garantie de leur sécurité une fois la phase d’entraînement de base terminée.
Les nouvelles mesures prévoient également un renforcement des mécanismes d’isolation des réseaux, afin de garantir qu’aucune intrusion dans une charge de travail ou un service de soutien ne permette aux attaquants d’obtenir automatiquement un accès non autorisé à Internet ou à d’autres réseaux internes.
OpenAI a également mis en place un système de surveillance avancé chargé d’examiner un large éventail d’activités afin de détecter tout comportement non autorisé, ainsi que le suivi des opérations des outils sur lesquels s’appuient les modèles, des traces d’inférence et des journaux d’activité, dans le but d’identifier rapidement les schémas pouvant indiquer des tentatives de contournement des restrictions et des contrôles de sécurité.
L’entreprise s’efforce d’émettre des alertes dans les 30 minutes suivant la détection de toute activité suspecte. Selon ses estimations, le fonctionnement du nouveau système de surveillance pourrait nécessiter des ressources informatiques équivalentes à environ 20 % des capacités utilisées dans le processus faisant l’objet de la surveillance.
