L'Oncle Sam veut que VOUS utilisiez l'IA... que vous le vouliez ou non.
Opinion | What Then Studio
Imaginez-vous vous connecter à votre poste de travail gouvernemental un lundi matin. Vous n'avez même pas encore pris votre café. Soudain, une fenêtre s'affiche sur votre écran avec une image de l'Oncle Sam pointant droit vers vous, accompagnée de la légende : « Je veux que VOUS utilisiez l'IA. »
Vous pourriez paniquer. Ai-je été piraté ? Est-ce un test d'hameçonnage ? Pour des milliers de militaires américains ce mois-ci, il ne s'agissait pas d'une arnaque, mais d'un ordre direct. Le Pentagone a officiellement lancé GenAI.mil , une initiative d'envergure visant à mettre l'intelligence artificielle commerciale (comme Gemini de Google) à la disposition de la quasi-totalité des militaires. Mais comme l'a rapporté DefenseScoop cette semaine , le déploiement a été… chaotique. Voici pourquoi ce virage soudain de l'armée vers l'IA est à la fois un tournant majeur et un pari risqué.
1. Le déploiement « à toute vitesse »
«Il est apparu comme par magie un jour.»
On s'attend généralement à ce que l'armée agisse à la vitesse d'un glacier. Si vous voulez une nouvelle agrafeuse, il vous faut trois formulaires signés en trois exemplaires. Mais avec GenAI.mil , le département de la Défense (DoD) a accéléré le processus. Le secrétaire à la Défense, Pete Hegseth, a envoyé une note de service exigeant que les troupes « se connectent, apprennent à l'utiliser et l'intègrent immédiatement à leurs méthodes de travail ».
Le problème ? L’absence quasi totale de formation. Un haut responsable a confié à DefenseScoop que l’outil leur avait été « imposé sans aucune consigne sur son utilisation en toute sécurité ». Les soldats se posent désormais les questions qui s’imposent : Puis-je y intégrer des informations classifiées ? (Non). À qui appartiennent les données ? (C’est complexe). Confier un outil puissant à des soldats sans mode d’emploi, ce n’est pas innover, c’est jouer à la roulette russe.
2. Le problème des « hallucinations »
Quand votre coéquipier numérique vous ment
Nous savons tous que l'IA générative a tendance à inventer des choses. Dans le jargon technique, on parle d'« hallucinations ». Si ChatGPT invente une information concernant une recette de biscuits, votre dîner est fichu. Si une IA militaire invente une information concernant une procédure opérationnelle standard (POS) ou une évaluation des risques, des personnes pourraient être blessées.
Si certains jeunes soldats apprécient l'efficacité du système — un caporal a même mentionné avoir rédigé des procédures opérationnelles standard complètes en quelques minutes —, les vétérans restent sceptiques. Comme l'a souligné un expert : « Un modèle qui s'exprime avec assurance peut se tromper. » Dans un métier où la précision est littéralement une question de vie ou de mort, se fier à un chatbot exige un niveau de confiance qui n'a pas encore été acquis.
3. Le dilemme de la boîte noire
Si les données entrantes sont erronées, les résultats le seront également.
La plus grande crainte n'est pas que l'IA ne fonctionne pas, mais que nous ignorions son fonctionnement . Tyler Saltsman, ancien militaire et fondateur d'une entreprise spécialisée en IA, qualifie l'IA commerciale de « boîte noire ». Nous ignorons quelles données ont servi à entraîner ces modèles. Des discussions sur Reddit ? Wikipédia ? De la propagande adverse ?
De plus, il existe un risque de fuite de données. Si un soldat colle un courriel confidentiel dans le chatbot pour le résumer, où vont ces données ? Sert-elle à entraîner le modèle ? Est-elle envoyée à un serveur commercial ? Sans réponses claires, l’armée risque de confier ses stratégies aux algorithmes mêmes qu’elle tente de maîtriser.
En résumé
L'IA représente sans aucun doute l'avenir de la guerre. Mais l'imposer du jour au lendemain aux militaires, c'est comme confier les clés d'une Ferrari à un adolescent avant même qu'il ait suivi des cours de conduite. C'est rapide, c'est puissant, mais si l'on n'y prend pas garde, l'accident est inévitable.
Référence : Cet article d'opinion fait référence à un reportage original de DefenseScoop .
Laissez un commentaire