La conformité se construit dans l'architecture, pas après coup : documentation, journalisation, supervision humaine.
Le règlement européen sur l'IA impose des exigences aux systèmes à haut risque : gestion des risques, qualité des données, documentation technique, traçabilité, supervision humaine et robustesse. Les ajouter en fin de projet coûte cher.
Traçabilité par construction
Chaque décision du système est enregistrée avec ses données d'entrée, la version du modèle et le niveau de confiance. Un auditeur peut ainsi rejouer un résultat et comprendre comment il a été obtenu.
L'humain garde la main
Nos alertes sont des recommandations. L'opérateur peut les confirmer, les rejeter ou demander plus de contexte. Ce choix de conception est aussi une exigence de sécurité.
Documentation vivante
La documentation technique est produite avec le code et mise à jour à chaque évolution. Elle reste ainsi fidèle au système réellement en service.
Équipe de recherche Fractalysium