Ce rapport analyse les tendances récentes en matière d'utilisation des applications d'IA générative, de violations des politiques relatives aux données et de distribution de logiciels malveillants au sein des organisations australiennes. Il met en évidence les défis importants posés par l'évolution du paysage de la cybersécurité, à mesure que l'IA générative s'intègre davantage dans les opérations quotidiennes et que l'adoption des applications cloud augmente.
Utilisation de l'IA générique : l'adoption de l'IA en Australie continue de progresser, avec ChatGPT, Gemini et Copilot en tête des applications les plus utilisées. L'utilisation des comptes personnels a connu une forte augmentation à la fin de l'année dernière, mais elle est actuellement en baisse, les organisations optant pour des plateformes plus sûres et approuvées. Les politiques de prévention des pertes de données (DLP) se multiplient afin de réduire les fuites de données, en particulier pour le code source et la propriété intellectuelle.
IA agentique et applications personnalisées : les organisations s'orientent vers des configurations d'IA générique axées sur la confidentialité, en utilisant Azure OpenAI, Bedrock et des outils sur site tels qu'Ollama. Les agents personnalisés et les interfaces gagnent en popularité, offrant un meilleur contrôle et une plus grande flexibilité dans le traitement des données, mais introduisant de nouveaux risques liés à l'IA fantôme.
Menaces de phishing : les campagnes de phishing évoluent et imitent souvent des services cloud de confiance. Google et Microsoft restent les cibles privilégiées, les plateformes de jeux vidéo étant également fréquemment utilisées à des fins malveillantes. Les attaquants recherchent des identifiants, des jetons et des autorisations d'accès. En moyenne, 121 utilisateurs sur 10 000 cliquent chaque mois sur des liens de phishing, ce qui souligne l'efficacité persistante de ces attaques malgré les efforts de sensibilisation.
Diffusion de logiciels malveillants : les attaquants exploitent des plateformes de confiance telles que GitHub, OneDrive et S3 pour héberger des logiciels malveillants, car les utilisateurs sont plus enclins à télécharger des fichiers provenant de sources familières. En moyenne, 22 utilisateurs sur 10 000 sont confrontés à du contenu malveillant chaque mois.
Risques liés aux applications cloud personnelles : les applications personnelles telles que LinkedIn, OneDrive et Google Drive sont très utilisées et fortement bloquées. La plupart des violations des politiques en matière de données concernent des données réglementées ou la propriété intellectuelle, ce qui incite les organisations à restreindre les utilisations personnelles à risque.
