Conférence — Médiation Neuronale Adversarielle
Une conférence sur le fait de traiter le modèle ML comme une surface d'attaque, et sur ce à quoi ressemble une stack de détection réseau quand elle l'admet.
La plupart des conférences sur la détection supposent que le modèle est un observateur neutre. Celle-ci part de la prémisse inverse : le modèle est une cible, et l'ingénierie intéressante commence une fois qu'on l'accepte.
Ce que couvre la conférence
Environ vingt-cinq minutes, en cinq mouvements :
- La thèse derrière la Médiation Neuronale Adversarielle (ANM), et pourquoi le modèle de menace a bougé.
- Pourquoi l'orthogonalité architecturale bat l'assemblage sous attaque par gradient.
- Le médiateur, et la divergence utilisée comme signal de sécurité plutôt que comme note de bas de page.
- La calibration conforme pour borner les faux positifs, pas seulement les régler.
- Le ledger d'audit inviolable et post-quantique qui rend chaque verdict rejouable.
Le fil rouge
La conférence se clôt sur les cinq critères qu'un produit doit remplir pour se dire honnêtement ANM, avec Ward³ comme implémentation de référence — et sur la question qui revient sans cesse : non pas si un attaquant testera votre ML, mais ce qui attrape l'attaque quand un modèle se trompe.
Pour qui
Responsables SOC et ingénieurs détection qui décident de la confiance à accorder à un modèle unique, et chercheurs en sécurité du ML intéressés par la défense autant que par l'attaque. Slides et enregistrement disponibles sur demande.
Ward³ est l'implémentation de référence d'ANM. Si vous défendez un environnement régulé, on peut regarder ensemble où il s'intègre.
Demander un accès