← Retour au blog

L'IA passe en interne et commence à débusquer les failles

Ces dernières semaines, deux évolutions de l'IA se sont conjuguées et changent ma façon de planifier l'année à venir dans le développement logiciel. J'ai consacré un post LinkedIn à chacune ; en voici la version longue, avec les sources et les chiffres réunis au même endroit.

Les entreprises peuvent désormais garder en interne une IA proche de l'état de l'art

Jusqu'à récemment, les modèles les plus performants restaient chez des fournisseurs externes. Si votre travail portait sur des données clients qui ne pouvaient pas sortir de la maison, il fallait soit vous contenter d'un modèle moins performant hébergé chez vous, soit renoncer à l'IA pour cette partie du travail.

Cet écart s'est réduit. Moonshot et Mistral ont publié les poids de leurs modèles phares, si bien qu'une entreprise peut les faire tourner sur ses propres systèmes, et Tencent a annoncé le 4 novembre que les siens suivraient. Selon un article, le modèle de Moonshot a obtenu un meilleur score que GPT-6 Astra d'OpenAI sur un test d'agents portant sur des tâches professionnelles, même si l'article ne cite aucun évaluateur extérieur. Faire tourner des modèles de cette taille en interne exige toutefois un matériel conséquent.

Faire tourner un modèle soi-même n'a d'intérêt que s'il reste fiable, et sur ce point les résultats sont contrastés. Le classement des hallucinations de Vectara fait résumer des documents aux modèles, puis signale à l'aide d'un vérificateur automatique les affirmations que le document ne permet pas d'étayer. Certains modèles à poids ouverts, plus anciens ou plus petits, inventent des faits dans environ 4 % des résumés, un taux proche des plus bas observés chez les modèles fermés (environ 3 %, là aussi de petits modèles). Les modèles de pointe font en général moins bien, ouverts ou fermés : les trois précédents modèles Kimi de Moonshot au classement se situent entre 11 et 18 % environ, et des modèles fermés comme GPT-6 Astra et Claude Opus 5.5 autour de 9 à 10 %. Le classement, mis à jour pour la dernière fois le 22 octobre, ne contient pas encore les nouvelles versions.

Les classements ne tranchent donc pas la question pour le modèle que vous utiliseriez réellement. Si je devais choisir pour une équipe, je commencerais modestement : faire tourner deux ou trois de ces modèles sur les vraies questions clients du dernier trimestre et comparer les réponses côte à côte. Vous en apprendrez davantage qu'avec n'importe quel classement.

Carte titrée « Les entreprises peuvent désormais faire tourner une IA proche de l'état de l'art en interne », avec un graphique en barres intitulé « Inventer des faits, laboratoire par laboratoire » : la part de résumés de documents contenant des faits inventés pour le meilleur modèle de chaque laboratoire comptant au moins cinq modèles au test de Vectara, octobre 2026. OpenAI 3,1 %, Google 3,3 %, DeepSeek 4,2 %, Mistral 4,5 %, Qwen 4,8 %, xAI 5,8 %, Z.ai 9,3 %, Anthropic 9,8 %.

L'IA trouve des failles dans les logiciels de l'iPhone

Le second changement concerne la sécurité. Des chercheurs travaillant avec l'IA de sécurité d'OpenAI ont découvert des dizaines de failles dans les logiciels de l'iPhone et du Mac, a rapporté Forbes le 17 novembre, et l'entreprise de sécurité concernée affirme qu'Apple en a déjà corrigé beaucoup.

Je voulais savoir s'il s'agissait d'un cas isolé. J'ai donc parcouru les notes de sécurité qu'Apple a publiées pour chaque mise à jour de l'iPhone sortie cette année et compté les correctifs dont les remerciements mentionnent OpenAI ou Anthropic. Les quatre premiers mois n'en comptent aucun. Les trois premiers correctifs sont sortis le 11 mai, et la mise à jour d'octobre a porté le total à 26. La plupart de ces remerciements citent directement les outils d'IA des laboratoires, comme « OpenAI Codex Security » ou un chercheur ayant travaillé « with Claude », et Apple ne signale aucune de ces 26 failles comme exploitée.

Carte titrée « L'IA trouve des failles dans nos téléphones, et Apple les corrige », avec un graphique en escalier intitulé « De zéro à 26 » : le total cumulé des correctifs de sécurité de l'iPhone en 2026 dont les remerciements mentionnent OpenAI ou Anthropic, d'après les notes de sécurité d'Apple. À zéro jusqu'au 11 mai, puis par paliers à 3, 7, 8, 17 et 20, pour atteindre 26 avec la mise à jour du 26 octobre.

Cela reste une petite part : 26 des 697 vulnérabilités corrigées dans les mises à jour de l'iPhone cette année. À mon sens, toutefois, un travail difficile qui demandait autrefois un spécialiste rare se fait de plus en plus avec des outils, les spécialistes gardant la main.

Pour qui publie une app, la démarche est simple. Laissez une IA chercher les failles avant chaque version, confiez à une personne la responsabilité de ce que l'IA trouve et traitez ces résultats comme n'importe quel rapport de bug. Et installez vos propres mises à jour dès leur sortie.

Ce que tout cela donne

Rien de tout cela ne rend obsolètes les grands fournisseurs d'IA, et les attaquants peuvent eux aussi utiliser l'IA. Mais je crois que les deux évolutions donnent davantage de maîtrise aux équipes de développement : sur l'endroit où vont leurs données, et sur la détection des failles de leurs propres logiciels avant les autres.

La suite

Si ce genre de note vous est utile, la newsletter est le meilleur moyen de ne pas manquer la suivante.