Selon une étude publiée par Anthropic, son intelligence artificielle aurait réalisé jusqu’à 90 % du travail d’un groupe de cyberespionnage chinois. Toutefois, selon plusieurs experts, l’absence de preuves techniques solides transforme cette annonce présentée comme révolutionnaire en une possible opération de communication.

L’intelligence artificielle est désormais au cœur de nombreux débats technologiques, y compris dans le domaine de la cybersécurité. Dernièrement, l’entreprise Anthropic affirme qu’un groupe lié à l’État chinois aurait exploité son chatbot Claude pour automatiser une vaste campagne de cyberespionnage.D’après eux, elle aurait permis d’automatiser une grande partie des opérations techniques, réduisant fortement l’intervention humaine. Tout cela arrive dans un contexte de tensions numériques, où on remarque que les cyberattaques menées par des États sont de plus en plus communes, ce qui augmente les inquiétudes au niveau de l'utilisation détournée des IA.

Face aux déclarations inquiétantes d’Anthropic, les experts opposent un doute réaliste. Par manque de preuves tangibles, il leur est impossible de valider les propos de l’entreprise. Ainsi, sans ces traces numériques, on ne peut confirmer ni la gravité de l'attaque, ni même qu'elle a bien eu lieu telle que décrite.

Au-delà de l’absence de preuves, la faisabilité technique de l’attaque reste très contestée : les chatbots, comme Claude ici, commettent encore trop d’erreurs (hallucinations, mauvaises décisions) pour automatiser seuls des opérations complexes sans avoir de supervision humaine. Il est vrai que ces outils sont utiles pour trier des données, mais incapables de gérer toute la chaîne de piratage.Surtout, pour quelle raison la Chine utiliserait-elle une IA américaine surveillée alors qu'elle dispose de modèles locaux performants ? C’est pour cela que ça rend la thèse de l'attaque “automatisée” très douteuse.

À mon avis cette annonce met en lumière un vrai paradoxe : le fait que la cybersécurité pourrait être menacée par l'intelligence artificielle, alors même que ce domaine est censé protéger les systèmes contre les attaques. Je trouve que si une IA peut être utilisée pour automatiser ou faciliter les cyberattaques, cela montre que les outils de protection d'aujourd'hui même si nous le savions déjà ne sont pas infaillibles. Selon moi, avec l'avancée de l'IA il faut se méfier davantage et repenser constamment les stratégies de défense. Toutefois, le flou autour des preuves me rappelle une chose importante : vérifier avant de s'inquiéter. Finalement, la cybersécurité doit constamment être mise à jour pour rester au point, mais c'est aussi un travail de vérification rigoureuse de l'information.

Cyberespionnage/ Intelligence artificielle (IA)/ Anthropic/ Cybersécurité/ Cyberattaques/ État chinois

• Technique de l'ingénieur: Des pirates chinois ont-ils utilisé une IA américaine pour mener des attaques ?
• BFM TV: Claude, l'intelligence artificielle d'Anthropic, aurait été utilisée pour mener une cyberattaque complexe, conçue à 80 ou 90% par l’IA: coup de semonce ou coup de pub?