Responsable de l’éthique IA
Responsable de l’éthique IA
Métiers

Responsable de l’éthique IA

Dans un contexte où des choix doivent être opérés sur la gestion de l’IA, il est important de désigner des professionnels qui donneront un cap d’acceptabilité. C’est le rôle qui incombe au Responsable de l’éthique en Intelligence Artificielle. Avec la montée en puissance de l’IA, son rôle devrait devenir prépondérant au sein de toutes les grandes structures, publiques et privées. Voyons quels sont les tenants et les aboutissants de ce « nouveau métier ».

kevin-picciau
Par Kevin Picciau
Fiche métier mise à jour le
En résumé
Niveau d’études : Bac+5
Bac conseillé : Scientifique
Employabilité : Très bonne
Salaire débutant : 4 160 € brut
Salaire confirmé : 8 700 € brut
Mobilité : Très bonne
Code ROME : M1802, Expertise et support en systèmes d’information
Code FAP : M2Z, Informatique et télécommunications
NB : les métiers de la cybersécurité sont récents. L’estimation du salaire se base sur peu de données. Le salaire peut être parfois surévalué ou sous-évalué. Nous affinerons sa pertinence lors de la prochaine édition du Guide des Métiers de la cybersécurité.
01010011 01101001 00100000 01110100 01110101 00100000 01100101 01110011 00100000 01101001 01100011 01101001 00100000 01100011 00100111 01100101 01110011 01110100 00100000 01110001 01110101 01100101 00100000 01110100 01110101 00100000 01100011 01101000 01100101 01110010 01100011 01101000 01100101 01110011 00100000 01110001 01110101 01100101 01101100 01110001 01110101 01100101 00100000 01100011 01101000 01101111 01110011 01100101 00101110 00100000 01010110 01100001 00100000 01110110 01101111 01101001 01110010 00100000 01100100 01100001 01101110 01110011 00100000 01101100 01100101 00100000 01100011 01101111 01100100 01100101 00100000 01110011 01101111 01110101 01110010 01100011 01100101 00101110

Métier

Les progrès significatifs induits par l’Intelligence Artificielle et ses algorithmes ont quelque chose de fascinant. La période récente a en effet montré une ouverture inouïe du champ des possibles sur le plan de l’innovation et de l’expérimentation. Face au foisonnement des possibilités technologiques et à la multiplicité des champs d’applications, certaines réticences se font sentir. Dans quelle mesure peut-on laisser la technologie prendre le pas sur certaines compétences humaines ? Peut-on vraiment laisser disparaître certains métiers ? L’avancée technologique dans certains domaines sensibles est-elle vraiment acceptable ?

Le métier de Responsable de l’éthique en Intelligence Artificielle (IA) a trait à la gestion et à la préservation des principes éthiques liés au développement, à la mise en œuvre et à l’utilisation des technologies d’IA. Par « principes éthiques », on entend toutes les valeurs d’intégrité, d’impartialité, de respect, de loyauté, mais aussi de compétence, qui sont celles de l’entreprise qui emploie et du grand public en règle générale. 

En d’autres termes, le rôle du Responsable éthique est d’examiner les technologies sous l’angle des valeurs humaines. Il veille à ce que le développement de l’IA, mais aussi de la data, inclue les principes fondamentaux de nos sociétés et des libertés humaines.

Le Responsable éthique a pour règle d’or de ne jamais accorder une confiance excessive aux systèmes intelligents, bien que ceux-ci soient de plus en plus autonomes.On lui donne également le nom d’« éthicien en Intelligence Artificielle ».

Missions du Responsable de l’éthique IA

« Le métier de Responsable éthique peut sembler très volatile : une espèce d’engagement de principe, que l’on a du mal à imaginer mis en pratique. C’est pourtant une série d’actions bien concrètes. Elles sont décidées sur la base de principes, certes ; mais elles sont plus que jamais ancrées dans le pratico-pratique » : ce sont là les premiers mots que pose Élise H. au moment d’évoquer les missions qui sont les siennes. Après avoir exercé plusieurs années comme Développeuse IA et Chef de projet IA, et suite à une formation complémentaire sur les mécanismes éthiques, elle a accédé au poste de Responsable de l’éthique en IA au sein de son entreprise – un groupe de services cloud et conseil en informatique présent dans 17 pays.

Au quotidien, comment se déploie la mission ? « Le Responsable éthique formule des questionnements permanents sur les sujets data et IA. Cela peut concerner le respect de la vie privée, la neutralité, la transparence, la responsabilité et la supervision humaine. Cet exercice nous amène à concevoir les règles algorithmiques avec les experts, à les rendre compréhensibles, mais aussi à assurer un suivi des systèmes d’apprentissage, aussi bien sur le machine learning que sur le deep learning). »

Un responsable IA vérifie que ses directives ont été respecté

Un responsable IA vérifie que ses directives ont été respecté

Un responsable IA explique a son collègue les limites éthiques de l'IA

Un responsable IA explique a son collègue les limites éthiques de l’IA

La carte générale des missions propres au Responsable éthique IA peut s’établir comme suit :

  • Élaboration de lignes directrices éthiques : Définir des principes directeurs éthiques spécifiques à l’entreprise pour orienter le développement et l’utilisation de l’IA.
  • Surveillance de la conformité : S’assurer que les projets d’IA respectent les réglementations, les normes éthiques et les meilleures pratiques définies par l’entreprise et les autorités compétentes.
  • Formation et sensibilisation : Mettre en place des programmes de formation et de sensibilisation pour informer les équipes internes sur les enjeux éthiques liés à l’IA et promouvoir une culture de responsabilité.
  • Évaluation des risques éthiques : Identifier et évaluer les implications éthiques potentielles des projets d’IA, en analysant les risques associés et en proposant des mesures d’atténuation.
  • Communication externe : Développer et communiquer les engagements éthiques de l’entreprise en matière d’IA, en particulier auprès du public, des clients, et des partenaires.
  • Collaboration interdisciplinaire : Travailler en étroite collaboration avec des experts en technologie, des juristes, des responsables des données, et d’autres parties prenantes pour intégrer des perspectives diverses dans les décisions éthiques.
  • Développement de politiques éthiques : Participer à la création et à la mise en œuvre de politiques internes visant à garantir des pratiques éthiques dans le domaine de l’IA.
  • Éthique dans le cycle de vie de l’IA : Intégrer des considérations éthiques à toutes les étapes du cycle de vie des projets d’IA, de la conception à la mise en production et à la maintenance.
  • Réponse aux préoccupations éthiques : Gérer de manière proactive les préoccupations éthiques émergentes, en mettant en place des mécanismes de signalement, d’enquête et de résolution.
  • Veille éthique : Suivre les développements éthiques dans le domaine de l’IA et ajuster les politiques et procédures en conséquence.

« Si je devais résumer, je dirais que mon rôle est de déterminer quelle est la valeur la plus importante dans une situation donnée : le progrès ou d’autres valeurs primordiales ? Quel est le juste équilibre entre innovation et sens de l’humain ? », ajoute Élise H.

Gratuit
Découvrez les 90 autres métiers de la Cybersécurité avec notre Guide des métiers de la Cybersécurité PDF 260+ pages
+ de 70 métiers pour travailler dans la Cybersécurité

Pour tout problème lié à l'envoi de ce formulaire, écrivez à contact@guardia.school ou appelez le 04 28 29 58 49

Les responsabilités du Responsable de l’éthique IA

Quand on pose la question de la responsabilité qui pèse sur ses épaules à Élise H., elle déclare d’emblée qu’on tombe facilement dans les « grands discours » quand on évoque la question éthique et l’IA.

 On a l’impression de se positionner en soldats du futur qui défendent l’Humain contre les robots, dans un scénario de science-fiction. On peut avoir le sentiment de surévaluer la portée du  poste, parfois
Élise H. - Responsable de l’éthique IA

Mais, au final, il y a bien un rôle crucial à remplir :

Le Responsable éthique en intelligence artificielle doit s’assurer que sont préservées les valeurs des entreprises et défendre les intérêts des utilisateurs en tant que consommateurs ou citoyens. Voilà sa grande responsabilité. Elle n’est pas des moindres. Il suffit d’allumer sa télévision ou de lire un peu la presse pour se rendre compte de l’étendue des craintes qui existent autour de l’IA. Certaines sont rationnelles, d’autres démesurées. Toujours est-il que notre métier est important. Un, pour tenter d’aller dans le bon sens. Deux, pour rassurer purement et simplement la société et balayer les blocages, pour avancer et saisir toutes les opportunités d’innovation. C’est essentiel !
Élise H. - Responsable de l’éthique IA
competences-metier

Compétences

Parmi les compétences incontournables pour aborder ce poste sereinement, on peut lister les points suivants : 

  • Connaissance approfondie de l’IA : Compréhension approfondie des principes, des technologies et des applications de l’IA pour évaluer les implications éthiques de manière informée.
  • Expertise éthique : Compétence dans les théories éthiques, les cadres éthiques et les principes qui sous-tendent les décisions éthiques liées à l’IA.
  • Maîtrise juridique : Connaissance des réglementations et des lois pertinentes liées à l’IA, y compris la protection des données, la confidentialité, et les droits de l’homme.
  • Compétences en communication : Capacité à communiquer efficacement avec des audiences variées, y compris les équipes de développement, la direction, les parties prenantes externes et le grand public.
  • Formation et sensibilisation : Compétences pour développer et dispenser des programmes de formation et de sensibilisation sur les questions éthiques liées à l’IA.
  • Analyse des risques : Capacité à identifier, évaluer et atténuer les risques éthiques associés aux projets d’IA, en utilisant des méthodes analytiques.
  • Gestion de projet : Compétences en gestion de projet pour intégrer des considérations éthiques dans toutes les phases du cycle de vie des projets d’IA.
  • Collaboration interdisciplinaire : Capacité à travailler en équipe et à collaborer avec des experts en technologie, des juristes, des responsables des données et d’autres parties prenantes.

Qualités

Quand on évoque les qualités du poste, la réponse d’Élise H. est instinctive : « Il y a, à la base de tout, la pensée critique. Se poser des questions, remettre en question, faire naître de chaque réponse une nouvelle question, c’est la mécanique même de l’éthique. Moi, j’applique cet état d’esprit aux sujets d’Intelligence Artificielle, pour savoir quelle est la bonne décision à prendre, et la bonne solution à adopter. Et quand il vaut mieux s’abstenir d’innover ».

En deuxième lieu, elle évoque la réactivité, « non seulement pour la gestion des crises – là, il faut être hyper rapide dans ses recommandations, mais aussi pour répondre dans un laps de temps raisonnable aux préoccupations et problématiques éthiques émergentes ».Il y a enfin un besoin d’empathie et de sensibilité culturelle, « pour comprendre les différentes perspectives, pour différents contextes locaux et publics, et être certains qu’on ne prend pas une solution mauvaise parce qu’on se focalise uniquement sur sa propre vision des choses ».

Niveau d’études nécessaire

Le Bac +5 est le minimum requis pour envisager un poste de Responsable éthique, quelle que soit la spécialité envisagée – IA ou autre. La technicité des sujets d’Intelligence Artificielle vont d’autant plus dans le sens d’une formation solide et approfondie. Aussi, il n’est pas rare de voir les recruteurs donner la priorité à des Bac +7 et des profils de chercheurs et doctorants.

Quelle formation choisir ?

Élise H. souligne avec insistance la nécessité de bénéficier d’une formation « à double facette ». « Nous avons besoin, en tant que Responsables éthiques focalisés sur l’IA, d’avoir une sensibilité aussi forte sur le technique et sur le non technique. La compréhension des rouages informatiques et technologiques est essentielle, mais il faut aussi pouvoir prendre de la hauteur. Il faut imbriquer ce savoir ‘dur’ avec une finesse d’approche et d’analyse qui remet en perspective ce que nous faisons ». Cette professionnelle expérimentée, qui occupe depuis plus de deux ans un poste de Responsable éthique IA, valide la plaquette de la Guardia School.

L’école propose un niveau Bachelor (titre RNCP niveau 6, organisé sur 3 ans) et un niveau Master of Science, débouchant sur un titre d’Expert en cybersécurité (titre RNCP niveau 7, organisé sur 2 ans). À chacune de ces deux étapes, l’accent est mis autant sur les sujets techniques que sur les compétences comportementales. Sont notamment abordés :

  1. sur le plan technique : toutes les bases de l’informatique, les techniques du développement, du crypting, de l’algorithmie, les problématiques de cybersécurité et de nombreuses technologies innovantes, comme l’IA ;
  2. sur le plan comportemental : tous les aspects de la communication et de la gestion de projet, avec une formation solide en analyse et en décryptage des problématiques.

« Sur la formation au long cours, qui couvre les cinq ans jusqu’au Master, je réussis à pointer tous les prérequis nécessaires. Les deux dernières années, avec un focus sur l’IA et une vraie importance accordée au dialogue inter-métiers, me semblent être parfaites pour préparer de futurs professionnels aux défis humains et intellectuels qui les attendent ».

En savoir +

Salaire

Le salaire moyen d’un Responsable de l’éthique IA se situe aux alentours de 4 160 € mensuels bruts en début de carrière. Ce salaire peut être supérieur si le professionnel dispose d’expériences solides sur d’autres postes liés à l’Intelligence Artificielle. Les passages sur des postes techniques sont, notamment, fortement valorisés. Les détenteurs d’un doctorat et les chercheurs en IA disposent également d’un argument de taille pour négocier leur salaire à la hausse. Dans ce cas de figure, la rémunération peut atteindre jusqu’à 4 800 euros bruts environ. Pour un profil confirmé, on relève un salaire moyen de 8 700 euros bruts par mois. Une fois de plus, la pertinence des expériences passées, la variété des sujets techniques maîtrisés, le niveau de responsabilité assurée auparavant et les défis intellectuels relevés pèsent lourd pour l’obtention de salaire plus important.

Source salaires : enquête interne auprès des professionnels + étude cabinet Michael Page + étude cabinet Hays.

NB : les métiers de la cybersécurité sont récents. L’estimation du salaire se base sur peu de données. Le salaire peut être parfois surévalué ou sous-évalué. Nous affinerons sa pertinence lors de la prochaine édition du Guide des Métiers de la cybersécurité.

Une liasse de billet en dollars américains

Une liasse de billets en dollars américains

Dans quel secteur travailler ?

L’intégration de l’Intelligence Artificielle soulève des questions éthiques dans de nombreuses industries. Le Responsable éthique peut ainsi trouver une utilité dans un grand nombre de domaines. 

Les secteurs à surveiller en priorité, au moment d’une recherche d’emploi, sont sans surprise ceux de la technologie et de l’informatique. De nombreuses questions sont à résoudre autour des algorithmes et des applications notamment. 

Le domaine de la santé a lui aussi besoin de placer une personne à la tête des questions d’éthique. L’IA peut en effet entrer en jeu pour la recherche médicale, le diagnostic ou encore la gestion des dossiers médicaux : autant de terrains où le respect des valeurs humaines et le respect des données personnelles revêtent une importance toute particulière.

Dans le champ de la finance, l’IA peut servir à la prise de décisions automatisée, à la gestion des risques et à la détection de fraudes, ce qui suppose de respecter un certain nombre de règles éthiques.

Du côté du transport, les entreprises travaillant sur des véhicules autonomes et des systèmes de gestion du trafic basés sur l’IA peuvent difficilement composer sans un Responsable éthique.N’oublions pas les domaines de l’éducation, de l’énergie, de l’industrie manufacturière, du commerce de détail ou encore les instances publiques qui ont besoin de garder un œil sur certains principes au moment de mobiliser l’IA. Il s’agit tantôt de respecter les droits et la vie privée des consommateurs, l’anonymat des apprenants, la justice des politiques publiques, la juste utilisation de ressources…

Dans chacun de ces domaines, on doit penser au respect de normes légales et sociales, tout en minimisant les biais et en garantissant la transparence des systèmes 
Élise H. - Responsable de l’éthique IA

Les entreprises qui recrutent des Responsable de l’éthique IA

Parmi les nombreuses offres d’emploi publiées quotidiennement, on voit apparaître régulièrement des annonces de la part de :

  • IQo et Webnet parmi les structures informatiques de taille moyenne ;
  • les hôpitaux de l’APHP ;
  • EDF ;
  • Safran ;
  • le Groupe Thales ;
  • le spécialiste du bricolage ManoMano ;
  • ou encore le compagnie maritime CMA CGM.

On trouvera facilement des opportunités de postes sur les pages suivantes :

  • Indeed.com ;
  • LinkedIn ;
  • Cyberjobs.fr ;
  • Apec.fr ;
  • et tous les portails RH des entreprises mentionnées précédemment.

Evolution de carrière

Dans certaines entreprises, le rôle de responsable de l’éthique de l’IA peut évoluer vers des responsabilités plus larges, avec un rôle de Responsable de la Conformité et de l’Éthique.

Dans mon cas précis, je sais qu’il existe une possibilité de devenir Directrice de l’éthique IA à l’échelle du Groupe. À cette heure, mon rôle concerne un seul pays, le Royaume-Uni. Si je veux faire un pas de côté, je serais aussi légitime en tant que Responsable de la Responsabilité Sociale d'Entreprise (RSE). Il y aurait une vraie continuité, puisque j’intégrerais les considérations éthiques dans divers domaines d'activité de l'entreprise
Élise H. - Responsable de l’éthique IA

Une autre voie envisageable est de devenir Expert ou Consultant en éthique de l’IA, soit au sein d’une agence, soit en tant qu’indépendant. « Il faut alors avoir une vraie capacité à guider des structures de natures très diverses dans l’adoption de pratiques éthiques avancées », précise Élise H.

Les avantages et inconvénients

 

les choses se pensent davantage en termes de défis et de difficultés qu’en termes d’inconvénients. Ce qui peut être difficile, c’est d’orienter sa réflexion dans le bon sens. Cerner les implications éthiques, légales et sociales d’un projet lié à l’IA n’est pas toujours évident. La bulle éthique peut avoir des contours flous, et c’est à nous de définir les limites et les priorités. Cette impression de flou ou de notion changeante, c’est aussi ce qui rend compliqué de faire passer le message auprès de certaines équipes, et de la direction elle-même. Quand on n’a pas l’habitude de se pencher sur les impératifs éthiques, on peut être réticent à appliquer les principes. Et c’est d’autant plus difficile lorsque je suis obligée de recadrer ou mettre un frein à une composante qui génère beaucoup d’enthousiasme, parce qu’elle correspond à une vraie innovation !
Matthieu M. - Engineering manager

En ce qui concerne les points d’enthousiasme, Élise H. a le sentiment qu’une fois que son métier est compris :

 il génère dans 80 % des cas de la confiance. Les 20 % restants de mes interlocuteurs auront tendance à trouver ma mission inutile. Mais nous, Responsables éthiques, nous pouvons bien au contraire nous sentir investis d’une mission essentielle, à une époque où la technique fuse dans tous les sens. Peut-être que lorsque l’on aura vécu quelques dérives fortes liées à l’IA, et cela est possible, notre poste sera d’autant plus valorisé. Sur le plan de la reconnaissance, mais peut-être aussi sur les salaires, qui sait ?
Matthieu M. - Engineering manager
01010011 01101001 00100000 01110100 01110101 00100000 01100101 01110011 00100000 01101001 01100011 01101001 00100000 01100011 00100111 01100101 01110011 01110100 00100000 01110001 01110101 01100101 00100000 01110100 01110101 00100000 01100011 01101000 01100101 01110010 01100011 01101000 01100101 01110011 00100000 01110001 01110101 01100101 01101100 01110001 01110101 01100101 00100000 01100011 01101000 01101111 01110011 01100101 00101110 00100000 01010110 01100001 00100000 01110110 01101111 01101001 01110010 00100000 01100100 01100001 01101110 01110011 00100000 01101100 01100101 00100000 01100011 01101111 01100100 01100101 00100000 01110011 01101111 01110101 01110010 01100011 01100101 00101110

Devenir Responsable de l’éthique IA

Quelles sont les missions du Responsable de l’éthique IA ?

En tant que Responsable éthique en IA, Élise H. joue un rôle essentiel en définissant des lignes directrices éthiques, assurant la conformité des projets, formant les équipes, évaluant les risques, communiquant les engagements éthiques, collaborant avec diverses parties prenantes, développant des politiques internes, intégrant des considérations éthiques à toutes les phases des projets d'IA, gérant les préoccupations éthiques, et restant à l'affût des évolutions éthiques, tout en équilibrant le progrès technologique avec d'autres valeurs primordiales.

Quel est le salaire du Responsable de l’éthique IA ?

Le salaire moyen d'un Responsable de l'éthique IA débute à 4 160 € mensuels bruts en début de carrière, pouvant atteindre jusqu'à 4 800 € pour ceux avec une expérience solide ou un doctorat. Les profils confirmés peuvent espérer environ 8 700 € bruts par mois, en fonction de leur expérience, responsabilités antérieures et compétences techniques.

Quel niveau d’étude pour devenir Responsable de l’éthique IA ?

Le Bac +5 est le minimum requis pour envisager un poste de Responsable éthique, quelle que soit la spécialité envisagée – IA ou autre. La technicité des sujets d’Intelligence Artificielle vont d’autant plus dans le sens d’une formation solide et approfondie. Aussi, il n’est pas rare de voir les recruteurs donner la priorité à des Bac +7 et des profils de chercheurs et doctorants.

Quel Bac choisir ?

Il est conseillé de faire un Bac Scientifique pour devenir Responsable de l’éthique IA.

Quelle est la formation pour devenir Responsable de l’éthique IA ?

Chez Guardia Cybersecurity School : - un Bachelor en 3 ans (titre RNCP niveau 6), qui intègre dans ses 8 socles d’apprentissage toutes les bases de la cybersécurité et de gestion des systèmes d’information. - un titre MSc d’expert cybersécurité (titre RNCP niveau 7). Le diplôme couvre tous les besoins en cybersécurité rencontrés par les entreprises et les institutions.

metiers-proche-bg

Métiers proches de l’Engineering manager

Continuez vos recherches autour des métiers de la cybersécurité :