Nous vivons une époque fascinante. Aujourd'hui, un expert métier qui n'a jamais écrit une ligne de code peut, avec un peu de patience et une IA, construire un prototype logiciel fonctionnel. La barrière à l'entrée du développement n'a jamais été aussi basse. Mais cette démocratisation cache une bombe à retardement pour les industries réglementées.

L'IA générative est programmée pour être complaisante. Si vous lui demandez de "créer un formulaire de connexion", elle vous écrira le code pour que l'utilisateur puisse se connecter. Elle remplira sa mission première : que ça marche. Mais "marcher" et "résister" sont deux choses différentes. L'IA standard improvisera l'architecture. Elle "oubliera" souvent de chiffrer les mots de passe avec un algorithme robuste, d'implémenter une protection contre les attaques par force brute, ou de sécuriser les tokens de session. Elle produira ce que les experts appellent du code "naïf". Dans le domaine du B2C récréatif, ce n'est pas dramatique. Mais dans la santé, la finance ou l'industrie, c'est une négligence coupable.

Dans les prochaines années, nous allons assister à une explosion des fuites de données. Non pas parce que les hackers seront devenus plus intelligents, mais parce que la surface d'attaque sera saturée de produits créés par des intelligences artificielles non encadrées, supervisées par des fondateurs qui ne savaient pas quoi vérifier.

C'est là tout le drame des audits de sécurité de fin de parcours. Un fondateur passe 6 mois à construire son outil de gestion avec l'IA. Il est fier, l'outil tourne. Il fait appel à un expert pour valider le produit. L'expert lance ses tests et le constat est sans appel : l'architecture est trouée de toutes parts. Il faut tout jeter et tout recommencer. L'IA est un ouvrier infatigable, capable de construire un gratte-ciel en quelques jours. Mais si vous ne lui fournissez pas un architecte rigoureux et un inspecteur des travaux finis intraitable, elle le construira sur des fondations en sable. L'utilisation de l'IA dans la tech n'élimine pas le besoin d'expertise : elle déplace le besoin de l'écriture du code vers la méthodologie de l'audit.

← Retour aux Insights