Huit États américains portent plainte contre OpenAI, qu'ils accusent d'avoir présenté ChatGPT comme sûr alors qu'il serait dangereux pour les enfants et les personnes vulnérables
Les procureurs généraux de huit États américains, l'Arizona, l'Arkansas, l'Idaho, l'Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale, ont annoncé le 14 octobre avoir poursuivi OpenAI. Chacun l'a fait devant les tribunaux de son propre État, sur le fondement de ses lois de protection des consommateurs, auxquelles certains ajoutent des lois sur les données des mineurs ou des griefs de droit commun comme la négligence : il s'agit de huit plaintes distinctes. Selon le communiqué de la procureure générale de l'Iowa, Brenna Bird, ChatGPT, « conçu pour être excessivement accommodant et feindre la compassion humaine », aurait montré qu'il peut être dangereux pour des utilisateurs vulnérables, dont des enfants, y compris en « coachant » des utilisateurs vers le suicide ou vers le fait de nuire à d'autres personnes ; la plainte de l'Iowa s'appuie notamment sur des cas tirés de procédures privées antérieures, qui en sont au stade de l'allégation. Un second volet de cette plainte vise la manière dont OpenAI teste ses agents d'IA autonomes, le communiqué affirmant que l'entreprise a récemment « admis » de nombreux cas où ses modèles avancés seraient « devenus incontrôlables ». Dans sa plainte, l'Iowa réclame une amende civile pouvant atteindre 40 000 dollars par infraction et demande au juge d'interdire tout nouveau test de modèles d'IA avancés tant que des garde-fous adéquats, vérifiés par des contrôleurs tiers, ne sont pas en place. Les amendes civiles demandées se calculent par infraction et leur montant ou leur plafond varie d'un État à l'autre. La Floride avait déjà poursuivi OpenAI en juin, rappelle CNBC.
Pourquoi c'est important
Les demandes des procureurs montrent ce qu'ils estiment pouvoir exiger d'un assistant conversationnel ouvert au grand public. Dans sa plainte, la Virginie-Occidentale demande ainsi, pour les utilisateurs de l'État, un contrôle effectif de l'âge, des réglages par défaut adaptés aux comptes de mineurs (limites de session et d'usage nocturne, contrôle parental), des protocoles obligatoires d'escalade en cas de crise et un contrôleur indépendant rendant compte au procureur général ; d'après le communiqué du Nebraska, la loi de cet État sur la conception de services en ligne adaptés à l'âge figure parmi les trois textes qu'il invoque. Un éditeur dont le service destiné aux jeunes repose sur ces modèles peut être interrogé sur chacun de ces points par ses clients ou par une autorité. Dans une déclaration reprise par CNBC et KCRG, OpenAI répond, par la voix de son porte-parole Drew Pusateri, avoir intégré à son produit des protections adaptées à l'âge que « beaucoup d'autres produits d'IA n'ont pas », cite le contrôle parental et les rappels de pause, et ajoute que, « bien qu'aucun système ne puisse être parfait », l'entreprise continuera de travailler avec des experts et d'ajouter des garde-fous.
Source : Procureure générale de l'Iowa
Anthropic aurait présenté à des investisseurs un chiffre d'affaires de 16,8 milliards de dollars au troisième trimestre, en hausse de 45 % sur le deuxième
Selon deux participants cités par Reuters, Anthropic a présenté le mercredi 14 octobre à des investisseurs potentiels, à son siège de San Francisco, un chiffre d'affaires de 16,8 milliards de dollars pour le troisième trimestre, en hausse de 45 % sur le deuxième ; la BBC et CNBC rapportent le même montant sans nommer leurs sources. L'entreprise n'a ni publié ni confirmé ces chiffres, son porte-parole ayant refusé de commenter auprès de la BBC. Selon Reuters, CNBC et la BBC, le chiffre d'affaires s'élevait à 11,6 milliards de dollars au deuxième trimestre et à 4,7 milliards au premier, d'autres médias donnant des chiffres légèrement différents pour l'un ou l'autre de ces trimestres ; selon Reuters et CNBC, Anthropic s'est dite rentable « sur une base ajustée » au troisième trimestre, sans que cet ajustement soit défini. Les participants ont rencontré le directeur général, Dario Amodei, et le directeur financier, Krishna Rao, rapporte Reuters. La réunion s'inscrit dans la préparation d'une introduction en Bourse, que la BBC dit attendue avant la fin de l'année.
Pourquoi c'est important
Une entreprise dont les services dépendent de Claude y trouve un indice, partiel, de la santé financière de son fournisseur. Ces chiffres, rapportés par des participants à la réunion (Reuters) ou, sans source nommée, par la BBC et par CNBC (qui cite des « personnes au fait du dossier »), ne sont accompagnés d'aucun élément indiquant qu'ils aient été audités ; par ailleurs, selon un article de CNBC paru la veille de la réunion, Anthropic a déposé son dossier d'introduction en Bourse de façon confidentielle auprès de la SEC, le gendarme boursier américain, sans rendre publics les comptes de ce dossier. Ni la BBC, ni Reuters, ni CNBC ne précisent la méthode de calcul de ce chiffre d'affaires, notamment s'il est brut ou net. Selon le Financial Times, cité par CNBC, l'entreprise a aussi indiqué aux investisseurs avoir généré 1,70 dollar de chiffre d'affaires pour chaque dollar dépensé en calcul au troisième trimestre.
Source : BBC
Au sommet de Dublin, la Commission européenne dit faire respecter ses règles sur les modèles d'IA les plus avancés, Demis Hassabis alerte sur les piratages commis par des agents
Au sommet international sur l'IA organisé le 14 octobre à Dublin par le gouvernement irlandais, dans le cadre de la présidence irlandaise du Conseil de l'UE, Henna Virkkunen, vice-présidente exécutive de la Commission européenne chargée de la souveraineté technologique, de la sécurité et de la démocratie, a déclaré que le Bureau européen de l'IA « a commencé à faire respecter ces règles », celles que le règlement européen sur l'IA impose aux fournisseurs des modèles les plus avancés, et qu'il a envoyé des demandes d'information portant notamment sur la sécurité, l'évaluation externe et le suivi de l'usage des modèles, selon le texte de son discours publié par la Commission. Ces demandes sont antérieures au sommet : les premières ont été envoyées fin août, selon Reuters, et le discours ne nomme aucun destinataire. Euronews écrit que le Bureau « enquête » sur OpenAI et Anthropic à la suite d'incidents impliquant des modèles de ces deux laboratoires ; ces incidents avaient été rendus publics en juillet. Le même jour, Demis Hassabis, cofondateur de Google DeepMind et directeur scientifique d'Alphabet, a qualifié les piratages commis par des agents d'IA de « premiers coups de semonce » (« early warning shots ») : selon lui, les systèmes ne sont pas encore très puissants, si bien que les incidents ne sont pas si graves, mais ils pourraient le devenir à l'horizon d'un à deux ans si l'industrie, les entreprises et les gouvernements ne renforcent pas la sécurisation de ces systèmes, rapportent Reuters et l'AFP. Il a ajouté qu'une forme d'organisme international de normes serait à terme nécessaire, selon Reuters. Au même sommet, Brad Smith, président de Microsoft, a jugé que les comportements incontrôlés d'IA avaient fait de 2026 une année « qui donne à réfléchir » et réclamé d'urgence de nouvelles lois et règles de sécurité de l'IA, selon Reuters.
Pourquoi c'est important
Selon Euronews, le débat porte sur le champ du règlement. Un responsable de la Commission a indiqué au média, sous couvert d'anonymat, que la Commission ne ferait pas appliquer le règlement pendant la phase de test, mais qu'il peut l'être si un modèle s'échappe de son environnement de test et a un effet sur le marché européen, comme lors de l'intrusion chez Hugging Face qu'OpenAI a attribuée à certains de ses modèles ; Barry Scannell, associé du cabinet William Fry, estime au contraire, toujours selon Euronews, que le règlement ne s'applique « très clairement » pas aux activités de développement et de test, et qu'il est un peu forcé de dire qu'un agent a été mis en service s'il s'échappe de son environnement de test en cours de développement. Pour les fournisseurs qui proposent des modèles avancés dans l'Union européenne, l'écart entre ces deux lectures porte sur la question de savoir si un incident survenu pendant des essais, avant la mise sur le marché, peut relever du règlement lorsque le modèle qui s'échappe a un effet sur le marché européen.
Source : Commission européenne
Comprendre le règlement européen sur l'IA →ASML estime que son offre prévue pour 2027 et 2028 ne couvrira pas toute la demande de ses clients, tirée surtout par l'IA
Avec 11,7 milliards d'euros de chiffre d'affaires au troisième trimestre 2026, publiés le 14 octobre, le fabricant néerlandais de machines de lithographie ASML se situe dans le haut de la fourchette de 11 à 12 milliards qu'il avait annoncée en juillet. Son président et directeur général, Christophe Fouquet, qualifie ce chiffre de record. La marge brute atteint 57,5 %, au-dessus de la fourchette de 55 à 57 % prévue. Le résultat net, de 4,96 milliards d'euros, intègre un gain hors exploitation de 509,7 millions d'euros sur des participations, comptabilisé avant impôt selon les états financiers déposés avec le communiqué. Lors de la conférence avec les analystes, le directeur financier, Roger Dassen, a indiqué que le résultat net comprend environ 500 millions d'euros dus à la hausse de valeur de la participation initiale d'ASML dans Mistral AI, selon la transcription publiée par The Motley Fool ; le communiqué ne nomme pas Mistral. Pour l'ensemble de 2026, ASML attend un chiffre d'affaires de 44 à 45 milliards d'euros, contre 43 à 45 milliards en juillet, dont 14,2 à 15,2 milliards au quatrième trimestre. Ses clients continuent de relever leurs prévisions de besoins en équipements, « principalement » en raison de leur vision de l'ampleur et de la durée des investissements liés à l'IA, écrit l'entreprise, qui estime que son offre, telle qu'elle est planifiée aujourd'hui, ne couvrira pas toute leur demande en 2027 ni en 2028.
Pourquoi c'est important
Pour un opérateur de centres de données ou un acheteur de serveurs d'IA qui planifie ses capacités pour 2027 et 2028, le signal compte : il vient d'un fournisseur de premier plan des machines de lithographie, qui impriment les motifs des puces dans les usines des fabricants de puces et dont ceux-ci ont besoin pour accroître leurs capacités de production. ASML prévoit d'augmenter de 30 % en 2027 sa capacité de production de machines EUV (ultraviolet extrême) à faible ouverture numérique, dites bas-NA, et DUV (ultraviolet profond) à immersion, et étudie pour 2028 une hausse supérieure aux 30 % qu'elle envisageait jusqu'ici. Certains clients se disent déjà intéressés par des commandes pour 2029, voire 2030 ; lors de la conférence avec les analystes, le directeur financier a indiqué, selon la même transcription, qu'ASML n'avait pas encore accepté ces demandes de commandes. Le communiqué ne chiffre pas les prises de commandes : ASML avait annoncé début 2025 qu'elle cesserait de les publier chaque trimestre à partir de l'année suivante, rapportait alors le site néerlandais Bits&Chips. D'après sa présentation aux investisseurs, la Chine a représenté 23 % des ventes nettes de systèmes du trimestre, selon le lieu de livraison, contre 14 % au deuxième trimestre.
Source : ASML (formulaire 6-K, SEC)
À Singapour, Anthropic ouvre un bureau et annonce un protocole d'accord avec le ministère du Développement numérique et de l'Information
Singapour accueille depuis le 14 octobre le cinquième bureau d'Anthropic en Asie-Pacifique, après ceux de Bengaluru, Séoul, Sydney et Tokyo selon The Business Times, qui rappelle que son ouverture avait été annoncée en septembre. L'entreprise a annoncé à cette occasion un protocole d'accord avec le ministère singapourien du Développement numérique et de l'Information, signé en marge de la Singapore International Cyber Week par le secrétaire permanent du ministère, Chng Kai Fong, et le cofondateur d'Anthropic Ben Mann ; la chaîne CNA date cette signature du mardi 13. Selon la présentation qu'en fait Anthropic, le protocole définit des domaines de coopération : la sûreté, la sécurité et l'évaluation des modèles d'IA, la recherche sur l'adoption de l'IA et son impact, et son adoption responsable dans les secteurs public et privé ; aucun montant ni aucune durée ne sont annoncés. Le protocole ne donne pas à Singapour d'accès prioritaire aux modèles de pointe d'Anthropic avant leur sortie commerciale, a précisé Michael Sellitto, responsable des politiques publiques de l'entreprise pour l'Asie-Pacifique, selon The Business Times. La ministre du Développement numérique et de l'Information, Josephine Teo, a assisté à la signature, précise Anthropic.
Pourquoi c'est important
Ce protocole s'ajoute à d'autres accords conclus cette année par Singapour avec des acteurs de l'IA : selon CNA, un accord avec OpenAI en mai et un protocole entre l'IMDA (Infocomm Media Development Authority) et Microsoft en juin. Dans le cadre du protocole, Anthropic dit prévoir des échanges techniques avec les institutions singapouriennes de sûreté, de sécurité et d'assurance de l'IA sur l'évaluation des modèles et les normes de test, ainsi que sur la réponse aux incidents. Michael Sellitto a par ailleurs déclaré qu'Anthropic s'engage, lorsqu'elle identifie des incidents préoccupants liés à l'IA, à en partager les informations avec les gouvernements « aussi vite que nous le pouvons de manière responsable » (« as quickly as we responsibly can »), rapporte The Business Times. Une administration qui recourt à un fournisseur d'IA peut y puiser des points à faire préciser par écrit, du partage d'informations sur les incidents à l'accès anticipé, ou non, aux nouvelles versions.
Source : Anthropic
À Rabat, le premier président de la Cour de cassation et le procureur général du Roi plaident pour un usage encadré de l'IA dans la justice
Mercredi 14 octobre, à Rabat, la Cour de cassation du Maroc a ouvert, en partenariat avec l'Association des hautes juridictions de cassation des pays ayant en partage l'usage du français (AHJUCAF), un colloque international de deux jours intitulé « Justice et intelligence artificielle : opportunités et risques ». Il réunit plus de 40 représentants de hautes juridictions et experts d'une vingtaine de pays, 24 selon d'autres dépêches de la MAP. Le premier président de la Cour, Mohamed Abdennabaoui, également président délégué du Conseil supérieur du pouvoir judiciaire et président de l'AHJUCAF, a présenté l'IA, selon une autre dépêche de la MAP, comme un outil capable de contribuer à une justice plus rapide, plus accessible et plus prévisible. Il a aussi estimé que l'encadrement de son usage appelait l'intervention du législateur et préconisé l'adoption préalable de principes directeurs éthiques, de chartes ou de codes de déontologie, qui pourraient au besoin être renforcés par des règles juridiques. Le procureur général du Roi près la Cour de cassation, président du ministère public, Hicham Balaoui, a écarté « une justice automatisée » comme le recours à une IA « agentique » capable d'agir de manière autonome et de remplacer les humains par des algorithmes, et plaidé pour une justice qui tire parti de la technologie « tout en maintenant les humains au centre du processus judiciaire », rapporte une troisième dépêche de la MAP. Le même jour, à l'ouverture d'une conférence internationale à Athènes, Amina Bouayach, présidente du Conseil national des droits de l'Homme (CNDH) et de l'Alliance mondiale des institutions nationales des droits de l'Homme (GANHRI), a souligné l'importance de soumettre les systèmes d'IA à des évaluations régulières de leur impact sur les droits de l'Homme, avant leur adoption et pendant leur utilisation, rapporte une autre dépêche de la MAP, reprise par SNRTnews.
Pourquoi c'est important
Pour les magistrats et les cadres judiciaires marocains, ces prises de position dessinent une orientation sans valeur de règle : les dépêches de la MAP du 14 octobre consacrées à l'ouverture de ce colloque ne mentionnent ni texte adopté, ni charte précise annoncée, ni calendrier d'adoption. Selon la MAP, Hicham Balaoui a précisé que l'usage éthique de l'IA dans les institutions judiciaires exige des contrôles clairs, notamment sur la protection des données personnelles, sur la sécurité des systèmes d'information et sur l'interdiction de saisir des données confidentielles dans des systèmes non approuvés ou non sécurisés. Selon un communiqué de la présidence du ministère public relayé par la MAP, il a aussi mis en avant le renforcement des compétences des magistrats et des cadres judiciaires en matière d'IA et de cybersécurité, l'un des trois leviers qu'il a cités.
Source : MAP
Recherche juridique assistée par l'IA →