Alors que les organisations étendent leur utilisation de l’intelligence artificielle, les responsables de la sécurité des systèmes d’information et d’autres dirigeants technologiques sont de plus en plus sollicités pour traiter la responsabilité potentielle liée aux systèmes d’IA. Les risques peuvent découler de résultats inexacts, de défaillances dans la gestion des données, de contrôles de sécurité insuffisants, d’une prise de décision opaque et de litiges concernant la répartition des responsabilités entre les clients et les fournisseurs d’IA.
Une approche consiste à établir une documentation interne détaillée. Les organisations peuvent consigner les raisons ayant motivé le choix d’un outil d’IA, les données auxquelles il peut accéder, les équipes responsables de sa supervision et la manière dont ses résultats sont examinés. La conservation des évaluations des risques, des tests de sécurité, des décisions de politique et des réponses aux incidents peut aider à démontrer que l’entreprise a appliqué des contrôles raisonnables à mesure que l’utilisation de l’IA évolue.
Transparence et gouvernance
Un deuxième axe concerne la transparence. Les entreprises peuvent avoir besoin de politiques claires régissant les situations dans lesquelles les employés peuvent utiliser l’IA, les informations qu’il est interdit de saisir dans des services externes et les cas où un examen humain est requis. Les pratiques de divulgation peuvent également avoir leur importance lorsque l’IA contribue à des contenus destinés aux clients, à des recommandations ou à des décisions opérationnelles. Les responsables de la sécurité peuvent collaborer avec les équipes juridiques, de protection de la vie privée, de conformité et opérationnelles afin de définir des processus d’approbation et de vérifier que les outils déployés continuent de répondre aux exigences de l’organisation.
Les programmes de gouvernance peuvent inclure des inventaires réguliers des applications d’IA, des examens des accès, des évaluations de la sécurité des fournisseurs et des procédures de réponse aux erreurs ou aux soupçons d’utilisation abusive. Ces mesures peuvent aider les organisations à identifier les risques avant qu’ils ne deviennent des problèmes contractuels, réglementaires ou de réputation.
Contrats avec les fournisseurs d’IA
Un troisième domaine concerne les contrats avec les fournisseurs. Les organisations qui adoptent des services d’IA peuvent rechercher des conditions claires couvrant la propriété des données, la confidentialité, les pratiques d’entraînement des modèles, les obligations de sécurité, les droits d’audit, la notification des incidents, la disponibilité des services et les limites d’utilisation des données clients. Les négociations contractuelles peuvent également traiter de l’indemnisation, des plafonds de responsabilité, des responsabilités relatives aux résultats préjudiciables ou inexacts et des exigences applicables aux sous-traitants.
La responsabilité liée à l’IA demeure un domaine émergent, et les obligations peuvent varier selon le secteur, la juridiction et le cas d’utilisation. Plutôt que de considérer l’IA comme un achat de logiciel classique, les responsables de la sécurité peuvent la considérer comme un enjeu permanent de gestion des risques nécessitant documentation, transparence et coordination avec les fournisseurs. L’objectif n’est pas d’éliminer toute incertitude, mais de constituer des preuves d’une supervision éclairée et d’établir des responsabilités plus claires lorsque des problèmes surviennent.
