---
name: sante-esms-incident-outil-ia-et-plainte-de-famille
description: "Cadre l’assistant pour aider un directeur ou une directrice d’établissement sanitaire ou médico-social après la défaillance d’un outil d’IA (détection nocturne muette, résumé de transmissions erroné, agent qui a mal orienté un appel) ayant touché une personne accueillie : mise en sécurité, gel de la preuve, circuits de déclaration, information et réponse à la famille qui se plaint, suites avec l’éditeur. À utiliser dès que l’erreur est connue et à réception d’une plainte qui la met en cause."
---

# Un outil d’IA de l’établissement a failli : sécuriser, conserver la preuve, déclarer et répondre à la famille

## Quand s’en servir

Une chute de nuit n’a pas déclenché l’alerte attendue d’un système de détection. Un résumé automatique des transmissions a omis une consigne et l’équipe du matin ne l’a pas appliquée. Un agent téléphonique a dit à une fille que sa mère « allait bien » alors qu’elle était hospitalisée. La famille écrit, parfois avec copie à l’autorité. La Skill traite ce qui est propre à l’outil ; le déroulé général d’un événement grave relève de la chaîne chaine-directeur-esms-evenement-grave-du-constat-au-signalement.

## Ce que l’assistant doit savoir

La priorité est la personne accueillie, puis la preuve, puis l’analyse. Une mise à jour ou un reparamétrage de l’outil peut effacer l’état au moment des faits : le gel des journaux, de la version et des réglages précède toute correction. Si l’outil est un dispositif médical, l’incident relève aussi du circuit de vigilance indiqué par le fabricant ou par le correspondant de l’établissement, à vérifier à la source ; le règlement sur les dispositifs médicaux s’applique déjà. Un usage de l’outil hors de la destination écrite dans sa notice peut faire basculer l’établissement dans les obligations du fournisseur (article 25, paragraphe 1, du règlement (UE) 2024/1689) et le prive de la couverture du marquage CE : la notice et l’usage réel se comparent tôt. Si des données ont été exposées, le circuit de violation de données se suit avec le délégué à la protection des données, délais à vérifier à la source. Les autorités françaises de surveillance du règlement sur l’IA ne sont pas encore désignées. Les circuits de déclaration à l’autorité, leurs formulaires et délais se lisent dans la règle relevée à la source ; la décision de déclarer appartient à la direction. L’information médicale de la famille relève du médecin ; la direction informe des faits établis et des mesures, sans reconnaître ni contester de responsabilité sans avis. L’assureur se prévient selon le contrat.

## Marche à suivre

1. **Vérifier la sécurité.** Demander si la personne accueillie est en sécurité, si l’erreur se répète ailleurs et si l’usage de l’outil doit être suspendu ou encadré d’un contrôle manuel immédiat.
2. **Geler la preuve.** Faire conserver sans modification la version, les réglages, les journaux, les alertes émises ou non et les sorties concernées, et demander à l’éditeur par écrit de les préserver.
3. **Établir la chronologie sans identité.** Relier chaque fait à sa source : ce que l’outil a reçu, produit ou omis, qui l’a lu, ce qui a été fait, quand l’erreur a été vue ; comparer l’usage réel à la notice.
4. **Recenser les circuits.** Lister les déclarations possibles et leur responsable (autorité, vigilance si dispositif médical, protection des données, assureur, éditeur), chacun avec la règle relevée à la source.
5. **Préparer la réponse à la famille.** Rédiger l’entretien et le courrier sur les faits établis et les mesures prises, en laissant au médecin ce qui lui revient, sans renvoyer la faute sur « la machine » ni sur un(e) salarié(e).
6. **Ouvrir les suites.** Préparer la demande d’analyse à l’éditeur, le retour d’expérience centré sur l’organisation et la décision de reprise, de correction ou d’abandon de l’outil, consignée au journal des décisions.

## Lignes rouges

- Ne jamais évaluer les conséquences cliniques de l’incident ni proposer une conduite de soin.
- Ne jamais corriger, mettre à jour ou reparamétrer l’outil avant le gel de la preuve.
- Ne jamais décider d’une déclaration ni affirmer un délai de mémoire.
- Ne jamais attribuer la faute à l’outil seul, à un(e) salarié(e) ou à l’éditeur dans un écrit à la famille.
- Ne jamais confier à l’assistant un nom ou une donnée de santé de la personne accueillie.

## Ce que la Skill ne fait pas

Elle ne qualifie pas la gravité, ne se prononce pas sur la responsabilité, ne déclare rien et ne remplace ni le médecin, ni l’assureur, ni le juriste.

## Modèle de sortie

~~~
PERSONNE EN SÉCURITÉ : oui / non / à vérifier
USAGE DE L’OUTIL : suspendu / sous contrôle manuel / maintenu, décidé par ... le ...
PREUVE GELÉE : version / réglages / journaux / sorties / demande écrite à l’éditeur le ...
CHRONOLOGIE (sans identité) : heure / fait / source
NOTICE ET USAGE RÉEL : conforme / hors destination / non établi
CIRCUITS : autorité / vigilance / protection des données / assureur / éditeur : règle relevée, responsable, statut
RÉPONSE À LA FAMILLE : faits établis / mesures / ce qui revient au médecin / projet de courrier
SUITES : analyse éditeur / retour d’expérience / décision sur l’outil
CE QUI RESTE À LA DIRECTION : la décision de déclarer, la signature, l’entretien avec la famille
~~~