Un assistant IA change sans prévenir personne

Un DSI d'hôpital me pose une question simple, il y a deux semaines. Son assistant IA répond différemment à la même question qu'il y a six mois. Rien n'a changé dans la configuration. Le modèle, si.

Personne dans son équipe n'a vu passer la mise à jour. Le fournisseur l'a poussée côté serveur, l'outil est resté disponible pendant toute l'opération. Juste différent.

Une dérive qui ne fait pas de bruit

Un assistant IA change pour trois raisons, en général. Une mise à jour du modèle, décidée par le fournisseur. Un changement du contenu qu'il consulte — une base documentaire, un protocole interne. Un changement de fournisseur ou de version d'API.

Aucune de ces trois raisons ne déclenche d'alerte chez toi. L'outil reste en ligne. Il répond. Juste pas pareil qu'avant.

Dans un hôpital, ce détail pèse plus qu'ailleurs. Tu demandes à ces outils de retrouver une procédure, de résumer un protocole, de répondre à une question administrative. Un mot qui change de sens, une nuance qui disparaît, et la réponse n'est pas fausse. Elle est juste un peu à côté.

Côté réglementaire, depuis le 2 août 2026

Le règlement européen sur l'IA est entré dans sa phase concrète pour les hôpitaux le 2 août 2026. Trois articles à connaître.

Article 50. Un patient doit savoir qu'il parle à une IA, dès le premier échange. Un agent de prise de rendez-vous. Un chatbot. Un contenu généré et publié sur un sujet de santé publique doit être signalé comme tel.

Article 26. Un hôpital qui utilise un système d'IA est un déployeur, au sens du texte. Il doit surveiller le fonctionnement du système. Signaler tout dysfonctionnement au fournisseur et à l'autorité de contrôle. Confier cette surveillance à des personnes formées et habilitées. Conserver les journaux générés par le système — six mois minimum.

Article 72. Côté fournisseur cette fois : un plan de surveillance post-commercialisation, documenté, pour tout système à haut risque.

Les systèmes cliniques à haut risque — diagnostic, imagerie — ont un délai plus long. Les exigences renforcées s'appliquent à partir du 2 août 2028.

Le cas qui échappe encore au texte

Un assistant documentaire. Une recherche de procédure. Un outil administratif interne. Rien de tout ça n'est classé à haut risque, aujourd'hui.

Alors rien ne t'oblige à le surveiller. Mais le principe posé par l'article 26 — surveiller, tracer, pouvoir prouver — ne devient pas moins vrai parce qu'un texte ne l'impose pas encore à cet usage-là.

Le jour où un médecin s'étonne d'une réponse, ou où un audit pose la question, une seule chose compte : avoir un point de comparaison. Un avant et un après. Daté.

Reconstituer, ou comparer

Sans surveillance, tu reconstitues après coup. Tu cherches dans les journaux du fournisseur, si tu y as accès. Tu essaies de te souvenir de la dernière mise à jour. Tu n'as pas de preuve. Juste une impression.

Avec un point de départ mesuré et des observations répétées, la question change de nature. Tu ne reconstitues plus. Tu compares.

Six mois, c'est la durée minimale de conservation des journaux imposée par l'article 26. Pas forcément la durée utile pour repérer une dérive qui s'installe lentement, mise à jour après mise à jour.