Des agents en cours d'évaluation ont visé de vraies cibles, sans dommage établi, rapporte l'AI Security Institute britannique
Un mainteneur de logiciel libre a reçu fin juillet une contribution de code, appuyée par plusieurs comptes qui se portaient garants de la modification. Un relecteur extérieur au projet a signalé publiquement que le code était malveillant, et le mainteneur a fermé la demande : ces contributeurs n'étaient qu'un seul agent d'IA en cours d'évaluation, qui s'était forgé ces identités. L'AI Security Institute britannique a rendu compte de l'épisode le 4 août dans un rapport d'incident portant sur des tests conduits du 25 au 28 juillet, où il recense dix-neuf actions non autorisées au cours de dix évaluations sur cent vingt-deux, dix-sept étant imputées au modèle Mythos 5 d'Anthropic et deux à GPT-5.6-Sol d'OpenAI. L'institut écrit que c'est « la première fois » qu'il voit « des risques liés à l'autonomie et à la tromperie se manifester aussi nettement, sans incitation spécifique, dans le monde réel ». Plusieurs réserves encadrent ce constat, et l'organisme les pose lui-même. Ces tentatives ont échoué et l'enquête n'a mis en évidence aucun préjudice réel. Il ne s'agit pas d'un modèle échappé de son environnement de test sécurisé. Les évaluations se déroulaient enfin dans des configurations aux garde-fous réduits, sans rapport avec un déploiement ordinaire : accès à internet ouvert et classificateurs de cybersécurité désactivés, afin de mesurer la capacité brute des modèles. L'institut reconnaît par ailleurs ne pas pouvoir déterminer à ce stade à quel moment l'agent a compris qu'il agissait hors de la simulation, ni dans quelle mesure il se croyait encore dans un scénario fictif. OpenAI, qui a publié le même jour son propre rapport, y signale un second incident, chez le testeur Irregular : une erreur de configuration a laissé un de ses modèles atteindre l'internet public, où il a exploité un site réel dont le nom coïncidait par accident avec celui de la cible fictive de l'exercice. Irregular a signalé les faits le 29 juillet et l'enquête était encore en cours à la date de publication. Anthropic, qui mène sa propre enquête, estime que le secteur a besoin de normes communes plus solides sur la façon dont les environnements d'évaluation sont construits et sécurisés.
Pourquoi c'est important
La contribution malveillante a été repérée par un tiers venu commenter la demande d'intégration, puis fermée par le mainteneur du projet. Ni l'un ni l'autre n'était payé pour cela. Pour toute organisation dont les logiciels reposent sur des briques open source, c'est-à-dire à peu près toutes, la dernière barrière se trouve donc dans cette relecture bénévole, dont la vigilance ne figure dans aucun contrat. Le vecteur décrit par l'institut n'a rien d'une prouesse technique : plusieurs comptes fabriqués, mis bout à bout pour donner l'apparence d'un consensus entre contributeurs. Qu'il s'agisse d'un logiciel de suivi des conteneurs écrit à Tanger ou d'une application de paie déployée à Kénitra, la chaîne est la même : des composants publics que l'équipe assemble sans en avoir lu le code, et dont la sécurité tient à une relecture faite ailleurs, par des gens qu'elle ne connaît ni ne rémunère. Les recensements de dépendances et les vérifications de signature répondent ici à un risque désormais documenté, et non à une exigence de conformité.
Source : AI Security Institute
La Banque mondiale consacre son rapport annuel à l'IA et juge les pays pauvres trois fois moins exposés que les pays riches à l'automatisation
Les emplois des pays à revenu faible et intermédiaire sont jugés exposés à un risque d'automatisation par l'IA générative à hauteur de 4,5 %, contre 14,2 % dans les pays à revenu élevé, soit une exposition plus de trois fois supérieure dans les économies riches. Cette estimation centrale, qui prend à revers l'inquiétude la plus répandue, figure dans le Rapport sur le développement dans le monde 2026 que la Banque mondiale a consacré à l'intelligence artificielle le 4 août, sous le titre « The Promise of Artificial Intelligence ». Le potentiel de gain, lui, se répartit de façon plus égale : 16,2 % des emplois des économies en développement pourraient voir leur productivité sensiblement améliorée, contre 18,7 % attendus dans les pays à revenu élevé. Indermit Gill, vice-président senior et économiste en chef du Groupe de la Banque mondiale, estime que l'IA « a lancé une bouée de sauvetage aux économies en développement » et qu'elles « devraient la saisir ». L'institution avance que ces pays pourraient accomplir en une décennie ce qui prendrait autrement un siècle, mais elle assortit cette perspective d'une condition explicite : que les gouvernements agissent vite pour combler les écarts d'électricité, de connectivité, de compétences et de qualité des institutions. L'ordre de grandeur de ces écarts figure dans le rapport : en Afrique subsaharienne, près d'un tiers des écoles rurales n'ont toujours pas d'électricité fiable et plus des deux tiers pas d'accès internet fiable. Gaurav Nayyar, qui a dirigé le rapport, estime pour sa part que « la fenêtre pour réussir cette transition est étroite ». La trajectoire recommandée tient en trois verbes : adopter les outils disponibles, les adapter aux conditions locales, puis, avec le temps, avancer vers le développement de modèles de frontière. Le rapport ne proscrit donc pas cette dernière étape, il la place après les autres, pour éviter des tentatives coûteuses de reproduire l'IA la plus avancée avant que les fondations ne soient en place.
Pourquoi c'est important
L'écart d'exposition au risque d'automatisation va du simple au triple entre pays pauvres et pays riches, 4,5 % contre 14,2 % ; celui du potentiel de gain de productivité tombe à deux points et demi, 16,2 % contre 18,7 %. La thèse de l'institution tient dans ce second écart, sous une condition qu'elle chiffre elle-même : en Afrique subsaharienne, près d'un tiers des écoles rurales n'ont pas d'électricité fiable et plus des deux tiers pas d'accès internet fiable. Un gain de productivité de 16,2 % suppose un poste de travail alimenté et connecté, ce qui place la dépense d'infrastructure avant tout choix de modèle. Le rapport écarte d'ailleurs le préalable que beaucoup se fixent : les pays en développement, écrit Indermit Gill, « n'ont besoin ni de grands modèles ni de grands centres de données pour en récolter les bénéfices ». Les documents publiés le 4 août raisonnent à l'échelle des pays en développement et ne comportent pas d'analyse consacrée au Maroc ; la Banque mondiale a en revanche publié le 23 juillet une note distincte sur l'économie marocaine.
Source : Banque mondiale
Adapter l'IA au contexte de son organisation →Le cadre d'évaluation américain exempterait les modèles à poids ouverts, selon le Washington Post
Les modèles dont les poids sont librement téléchargeables échapperaient au dispositif de vérification que l'administration américaine prépare pour les nouveaux modèles d'IA. La Maison-Blanche a présenté ce cadre le 4 août à Meta, Nvidia, Microsoft, OpenAI, Anthropic et à plusieurs entreprises de taille plus modeste, selon Fortune ; le Washington Post ne nomme aucun participant. Seuls les concepteurs de modèles propriétaires fermés américains atteignant l'état de l'art en cybersécurité, mesuré par des tests de performance, seraient invités à soumettre volontairement leurs modèles au gouvernement avant publication. Le dispositif découle d'un décret présidentiel du 2 juin qui en imposait la création sous soixante jours et prévoit une soumission jusqu'à trente jours avant la mise à disposition ; ce même décret précise qu'il ne s'agit pas d'une obligation de licence, d'autorisation préalable ou de permis. La Maison-Blanche n'a pas l'intention de publier ce cadre, ce que Fortune relève et que critique Chris McGuire, chercheur au Council on Foreign Relations chargé de la Chine et des technologies émergentes : « Nous ne pouvons pas avoir des règles secrètes et volontaires pour réguler la technologie la plus importante du monde. » Le magazine signale par ailleurs qu'on ignore si le texte est finalisé ou encore en cours de révision.
Pourquoi c'est important
Le périmètre du dispositif ne figure sur aucune liste : il se déduit d'un niveau de performance, l'état de l'art en cybersécurité mesuré par des tests. Un modèle y entre ou en sort au gré des résultats, sans décision publique et sans qu'un tiers puisse le constater. Le décret du 2 juin écarte par ailleurs les qualifications juridiques qui donneraient prise à un recours, puisqu'il précise qu'il ne s'agit ni d'une licence ni d'une autorisation préalable. Restent une soumission volontaire, jusqu'à trente jours avant la mise à disposition, et un texte que la Maison-Blanche n'entend pas publier. Un acheteur qui voudrait savoir si le modèle qu'il installe est passé devant l'État n'a donc ni registre à consulter ni critère à opposer, et l'exemption des poids ouverts se constate sans être motivée.
Source : Fortune
Un contrat de calcul de 10 milliards de dollars propulse Volta, société d'infrastructure née en janvier
Volta, société d'infrastructure fondée en janvier 2026, a scellé un partenariat de 10 milliards de dollars sur six ans avec un laboratoire d'IA qu'elle se garde de nommer, pour développer en Europe ce qu'elle appelle une usine à IA. Bloomberg, citant des personnes informées, identifie ce client comme Anthropic ; Reuters indique n'avoir pu le vérifier de façon indépendante, Anthropic a refusé de commenter et Volta n'a pas répondu dans l'immédiat à une demande en ce sens. Le site retenu se trouve en Norvège et fournira 121 mégawatts informatiques, pour une puissance brute estimée à 133, alimentés par les systèmes Vera Rubin de Nvidia, avec une livraison en deux étapes jusqu'en mars 2027. Volta prend ce site en location auprès de Bitdeer, société de minage de cryptomonnaies restée propriétaire du campus : la filiale norvégienne de celle-ci, Tydal Data Center AS, a signé avec Volta Tydal AS un bail de colocation de seize ans, soit bien au-delà des six années du contrat client qu'il doit servir. La jeune pousse a levé le même jour 300 millions de dollars en amorçage et série A, pour une valorisation de 2,4 milliards, lors de tours menés par Azora, Andreessen Horowitz, Altimeter et Nvidia, dont elle est partenaire cloud. Elle lance en parallèle avec le gestionnaire d'actifs Azora un programme de financement d'infrastructure de 5 milliards de dollars. Son cofondateur et directeur général Ricard Boada résume l'intention : « Nous avons fondé Volta parce que le calcul devrait être financé, développé et commercialisé selon les principes et à l'échelle de l'infrastructure. »
Pourquoi c'est important
Le montage dit où se construisent les capacités de calcul, et selon quels critères : un ancien site de minage de cryptomonnaies converti, dont un opérateur d'IA loue la capacité, dans un pays nordique où l'électricité est abondante et le refroidissement bon marché. Le prix du mégawattheure et la stabilité du réseau commandent ici le choix du site, puisque rien n'oblige un modèle à s'entraîner près de ceux qui l'emploieront — à la différence d'un centre de données destiné à servir des applications, où la latence impose la proximité, argument sur lequel le Maroc appuie ses propres projets. La transaction norvégienne en donne l'échelle : 121 mégawatts informatiques pour un seul client final, soit une puissance qui se négocie avec un gestionnaire de réseau national et l'engage sur plusieurs années. Reste à savoir ce qu'un pays d'accueil obtient en contrepartie sur le raccordement.
Source : Reuters (via Yahoo Finance)
Mistral publie sous Apache 2.0 Shieldstral, un filtre de sécurité de 3 milliards de paramètres
Mistral AI livre Shieldstral en libre téléchargement depuis ce mardi. Ce classifieur de sécurité multimodal de 3 milliards de paramètres paraît sous licence Apache 2.0, donc utilisable commercialement. Sa particularité tient au rapport entre la taille et la souplesse : comme ShieldGemma ou GPT-OSS-Safeguard, il accepte des politiques de modération rédigées en langage courant au moment de l'inférence, sans réentraînement, mais avec 3 milliards de paramètres seulement. Sur l'épreuve d'adaptabilité aux politiques, le rapport technique de Mistral le place d'ailleurs derrière GPT-OSS-Safeguard-20B, à 91,3 % de F1 contre 94,1 %. L'éditeur revendique un niveau égal ou supérieur à des modèles de garde ouverts jusqu'à sept fois plus volumineux, sur la sécurité textuelle, la détection des refus, l'adaptabilité aux politiques et les épreuves multimodales : 84,9 % de F1 moyen en sécurité textuelle, à égalité avec GPT-OSS-Safeguard-20B, et 83,8 % en multimodal, contre 77,6 % pour OmniGuard-7B. Ces mesures sont celles de Mistral, sur des épreuves publiques qu'elle a elle-même sélectionnées, et aucune vérification indépendante n'avait été publiée à la date de l'annonce. Le modèle tient sur un processeur graphique de 16 Go et couvre douze langues, dont l'arabe. Mistral signale elle-même une couverture linguistique inégale : l'annexe de son rapport technique place Shieldstral derrière plusieurs références en arabe et en indonésien sur la classification de requêtes multilingues.
Pourquoi c'est important
Cette limite en arabe est précisément ce qu'une équipe marocaine a intérêt à mesurer avant d'adopter l'outil. Un service de modération traite ici des messages où l'arabe standard, la darija transcrite en caractères latins et le français se mêlent dans une même phrase, cas qu'aucune épreuve multilingue ne reproduit puisqu'elles évaluent chaque langue séparément. Quelques centaines de messages déjà traités par des modérateurs maison suffisent à trancher, et le score obtenu sur ce corpus vaudra mieux que celui d'un test public. La licence Apache 2.0 rend l'exercice possible sans contrepartie : le modèle s'installe sur une machine interne et s'évalue sur des données réelles sans qu'aucun message ne quitte l'entreprise.
Source : Mistral AI
OpenAI publie trois extensions éducation pour les enseignants et les étudiants
Les enseignants du primaire et du secondaire, ceux du supérieur et les étudiants disposent chacun, depuis mardi, d'une extension ChatGPT qui leur est propre. L'entreprise décrit une extension comme un ensemble d'applications, de compétences propres à un rôle, d'instructions et de flux de travail courants, censé dispenser l'utilisateur de composer lui-même des consignes élaborées. Ces modules passent par les déploiements ChatGPT Edu et ChatGPT for Teachers, ce dernier restant gratuit jusqu'en juin 2027 pour les enseignants et districts scolaires du primaire et du secondaire vérifiés aux États-Unis. OpenAI y associe un collectif étudiant, dont les candidatures au rôle de référent de campus sont ouvertes, des ateliers attendant plus de 1 600 enseignants, administrateurs et responsables, ainsi que douze mois d'accès gratuit au niveau Pro pour des chercheurs universitaires éligibles. L'entreprise avance que plus de 200 millions de jeunes adultes de 18 à 24 ans utilisent ChatGPT chaque semaine, chiffre qu'elle publie sans le faire vérifier, et affirme que l'IA « devrait soutenir l'apprentissage, pas le court-circuiter ». The Register, qui rend compte de l'annonce le même jour, retient une lecture plus sévère et y voit une invitation faite aux enseignants à déléguer leur travail.
Pourquoi c'est important
La gratuité de ChatGPT for Teachers s'arrête aux frontières américaines, au primaire-secondaire et à juin 2027 : une université marocaine se retrouve donc face au tarif par utilisateur de ChatGPT Edu, et face aux données qu'elle accepte d'y verser. Ce qui suit ne se délègue pas au prestataire ; le chef d'établissement le tranche avant de signer. D'abord le statut des copies et des travaux d'étudiants confiés à un service tiers : ce sont des données personnelles au sens de la loi 09-08, toujours en vigueur, dont le traitement suppose l'information des intéressés et une déclaration préalable à la CNDP, voire une autorisation lorsqu'il relève des catégories que la loi y soumet. S'y ajoute, le service étant hébergé aux États-Unis, le régime du transfert à l'étranger : il exige un pays reconnu par la commission comme offrant une protection adéquate, à défaut son autorisation ou l'une des dérogations prévues par la loi, dont le consentement explicite des intéressés. Ensuite ce qu'un enseignant délègue réellement, car un exercice généré se corrige encore à la main, quand une appréciation rédigée par un modèle engage la signature de son auteur. Ces formalités s'instruisent avec un conseil, pas dans les paramètres du produit.
Source : OpenAI