ISO/TR 22100-5:2021

RAPPORT ISO/TR
TECHNIQUE 22100-5
Première édition
2021-01
Sécurité des machines — Relation avec
l'ISO 12100 —
Partie 5:
Implications de l’intelligence
artificielle pour l’apprentissage
automatique
Safety of machinery — Relationship with ISO 12100 —
Part 5: Implications of artificial intelligence machine learning
Numéro de référence
DOCUMENT PROTÉGÉ PAR COPYRIGHT
© ISO 2021
Tous droits réservés. Sauf prescription différente ou nécessité dans le contexte de sa mise en œuvre, aucune partie de cette
publication ne peut être reproduite ni utilisée sous quelque forme que ce soit et par aucun procédé, électronique ou mécanique,
y compris la photocopie, ou la diffusion sur l’internet ou sur un intranet, sans autorisation écrite préalable. Une autorisation peut
être demandée à l’ISO à l’adresse ci-après ou au comité membre de l’ISO dans le pays du demandeur.
ISO copyright office
Case postale 401 • Ch. de Blandonnet 8
CH-1214 Vernier, Genève
Tél.: +41 22 749 01 11
E-mail: copyright@iso.org
Web: www.iso.org
Publié en Suisse
ii
Sommaire Page
Avant-propos .iv
Introduction .v
1 Domaine d’application . 1
2 Références normatives .1
3 Termes et définitions . 1
4 Utilisation de l’IA dans le secteur des machines . 2
4.1 Généralités . 2
4.2 Exemples d’utilisation de l’apprentissage automatique par IA dans des machines . 2
4.2.1 Exemples sans implications pour la sécurité . 2
4.2.2 Exemples avec des implications pour la sécurité . 3
5 Conclusion . 5
Bibliographie . 6
iii
Avant-propos
L’ISO (Organisation internationale de normalisation) est une fédération mondiale d’organismes
nationaux de normalisation (comités membres de l’ISO). L’élaboration des Normes internationales est
en général confiée aux comités techniques de l’ISO. Chaque comité membre intéressé par une étude
a le droit de faire partie du comité technique créé à cet effet. Les organisations internationales,
gouvernementales et non gouvernementales, en liaison avec l’ISO participent également aux travaux.
L’ISO collabore étroitement avec la Commission électrotechnique internationale (IEC) en ce qui
concerne la normalisation électrotechnique.
Les procédures utilisées pour élaborer le présent document et celles destinées à sa mise à jour sont
décrites dans les Directives ISO/IEC, Partie 1. Il convient, en particulier, de prendre note des différents
critères d’approbation requis pour les différents types de documents ISO. Le présent document a été
rédigé conformément aux règles de rédaction données dans les Directives ISO/IEC, Partie 2 (voir
www.iso.org/directives).
L’attention est attirée sur le fait que certains des éléments du présent document peuvent faire l’objet de
droits de propriété intellectuelle ou de droits analogues. L’ISO ne saurait être tenue pour responsable
de ne pas avoir identifié de tels droits de propriété et averti de leur existence. Les détails concernant
les références aux droits de propriété intellectuelle ou autres droits analogues identifiés lors de
l’élaboration du document sont indiqués dans l’Introduction et/ou dans la liste des déclarations de
brevets reçues par l’ISO (voir www.iso.org/brevets).
Les appellations commerciales éventuellement mentionnées dans le présent document sont données
pour information, par souci de commodité, à l’intention des utilisateurs et ne sauraient constituer un
engagement.
Pour une explication de la nature volontaire des normes, la signification des termes et expressions
spécifiques de l’ISO liés à l’évaluation de la conformité, ou pour toute information au sujet de l’adhésion
de l’ISO aux principes de l’Organisation mondiale du commerce (OMC) concernant les obstacles
techniques au commerce (OTC), voir www.iso.org/iso/fr/avant-propos.html.
Le présent document a été élaboré par le comité technique ISO/TC 199, Sécurité des machines.
Une liste de toutes les parties de la série ISO/TR 22100 se trouve sur le site web de l’ISO.
Il convient que l’utilisateur adresse tout retour d’information ou toute question concernant le présent
document à l’organisme national de normalisation de son pays. Une liste exhaustive desdits organismes
se trouve à l’adresse www.iso.org/fr/members.html.
iv
Introduction
Le premier objectif du présent document est de servir de guide pour le développement d’applications
d’apprentissage automatique par intelligence artificielle (IA). Du fait de la grande complexité inhérente à
l’introduction de l’apprentissage automatique d’IA dans des machines, la sécurité peut être compromise.
Un système de commande peut utiliser l’apprentissage automatique (une technologie d’intelligence
artificielle) pour améliorer les performances de la machine ou pour exécuter des tâches. Le système de
commande apprend le comportement qui est attendu de lui par le biais d’un entraînement. Cela implique
deux étapes: l’entraînement et l’inférence (opération autonome).
Le présent document aide les concepteurs de machines à développer des solutions appropriées pour
leurs applications particulières. Il décrit comment appliquer le processus d’appréciation du risque selon
l’ISO 12100 aux applications d’apprentissage automatique d’IA.
L’apprentissage automatique d’IA est une technologie qui connait une évolution rapide dont les effets
sur la sécurité des machines n’ont pas jusqu’à présent été évalués.
v
RAPPORT TECHNIQUE ISO/TR 22100-5:2021(F)
Sécurité des machines — Relation avec l'ISO 12100 —
Partie 5:
Implications de l’intelligence artificielle pour
l’apprentissage automatique
1 Domaine d’application
Le présent document traite de la manière dont l’apprentissage automatique d’intelligence artificielle
peut impacter la sécurité des machines et des systèmes de machines.
Le présent document décrit comment les phénomènes dangereux associés à l’apprentissage automatique
par intelligence artificielle (IA) dans les machines ou les systèmes de machines conçues pour agir dans
des limites spécifiques, peuvent être pris en considération dans le processus d’appréciation du risque.
Le présent document n’est pas applicable aux machines ou aux systèmes de machines pour lesquels
l’apprentissage automatique des applications d’IA est conçu pour agir au-delà des limites spécifiées, ce
qui peut conduire à des effets imprévisibles.
Le présent document ne traite pas des systèmes de sécurité avec une IA, par exemple, capteurs relatifs
à la sécurité et autres parties relatives à la sécurité des systèmes de commande.
2 Références normatives
Le présent document ne contient aucune référence normative.
3 Termes et définitions
Pour les besoins du présent document, les termes et définitions suivants s’appliquent.
L’ISO et l’IEC tiennent à jour des bases de données terminologiques destinées à être utilisées en
normalisation, consultables aux adresses suivantes:
— ISO Online browsing platform: disponible à l’adresse https:// www .iso .org/ obp
— IEC Electropedia: disponible à l’adresse https:// www .electropedia .org/
3.1
intelligence artificielle
IA
discipline qui traite des systèmes informatiques capables d’exécuter des fonctions généralement
associées à l’intelligence humaine, telles que le raisonnement, l’apprentissage et l’auto-amélioration
[SOURCE: ISO/IEC 2382:2015, 2121393, modifié — Le mot "ordinateur" a été supprimé de la définition.]
3.2
apprentissage automatique
processus utilisant des algorithmes plutôt qu’un codage procédural, qui permet d’apprendre à partir de
données existantes afin de prédire des résultats futurs
[SOURCE: ISO/IEC 38505-1:2017, 3.7]
4 Utilisation de l’IA dans le secteur des machines
4.1 Généralités
Les entreprises du secteur des machines développent constamment des solutions d’IA pour différents
processus d’application, tels que:
a) le contrôle qualité;
b) l’optimisation des processus;
c) la surveillance de l’état/des défaillances;
d) la maintenance prédictive.
Les objectifs généraux de ces applications sont les suivants:
— l'optimisation des performances des machines/des tâches à réaliser par des machines;
— l'utilisation plus efficace des ressources;
— la réduction des effets environnementaux;
— l'amélioration des conditions de travail.
Certaines applications d’IA peuvent avoir des implications sur la fonction de la machine et donc sur la
sécurité des machines, et d’autres non. Le fait que l’IA puisse avoir un effet immédiat sur la sécurité des
machines dépend de l’effet d’optimisation prévu et de sa réalisation pratique par l’intermédiaire de la
conception de la machine.
4.2 Exemples d’utilisation de l’apprentissage automatique par IA dans des machines
4.2.1 Exemples sans implications pour la sécurité
4.2.1.1 Généralités
Il y a de nombreux exemples de processus d’optimisation des machines sans impact sur la sécurité,
par exemple, les robots d’emballage qui optimisent des pièces de tailles aléatoires différentes en
fonction de la charge exercée sur un patin ou une palette. L’objectif ici est d’obtenir un conditionnement
qui ne dépasse pas certaines dimensions ou un certain poids. En tant que tels, ces processus
sont prédéterminés. Il n’y a pas d’impact sur la sécurité. Dans ces situations, les applications d’IA
n’introduisent pas de nouveaux phénomènes dangereux ou de risques accrus qui ne sont pas pris en
co
...