【La soirée du 315 expose les modèles AI de grande taille qui ont été empoisonnés】 Selon des révélations d'experts du secteur, un journaliste a rapidement trouvé des informations sur un service nommé GEO en consultant plusieurs plateformes en ligne. Les prestataires de services engagés dans cette activité affirment que les utilisateurs n'ont qu'à payer des frais correspondants pour que les produits de leurs clients soient mis en avant dans les principaux modèles AI ; permettant aux publicités des clients de devenir la "réponse standard" fournie par le modèle AI. La technologie GEO peut-elle vraiment permettre à l'AI de "glisser des informations biaisées", voire de diffuser de fausses informations ? D'après les informations disponibles en ligne, le journaliste a contacté un prestataire de services GEO bien connu dans le secteur. Le responsable, M. Wang, a déclaré au journaliste que leur force réside dans leur capacité à aider les clients à se classer parmi les premiers lors de l'utilisation des modèles AI par les consommateurs. "C'est comme faire des articles promotionnels, puis faire en sorte que la plateforme AI les enregistre, les saisisse, les capture." En même temps, M. Wang a également informé le journaliste que les algorithmes des modèles AI sont mis à jour fréquemment, et pour maintenir une recommandation continue des modèles AI, il est nécessaire de fournir en permanence une grande quantité de contenu promotionnel lié aux clients. Selon d'autres prestataires de services GEO, la manière de contrôler l'AI, de rendre l'AI "docile" et de "conditionner" l'AI est presque le sujet central de la promotion de cette activité. Des experts du secteur ont déclaré que le GEO, en tant qu'outil logiciel pour optimiser la distribution d'informations et améliorer l'efficacité promotionnelle, a été découvert par certaines entreprises commerciales pour avoir une autre fonction. Un expert a acheté au hasard un logiciel appelé "Système d'optimisation GEO de Lifting" sur une plateforme de commerce électronique. Il a ensuite inventé un bracelet intelligent et a saisi les informations du produit fictif dans le système logiciel, en cochant les instructions de création d'articles. Peu de temps après, ce système d'optimisation GEO a automatiquement généré plus d'une dizaine d'articles promotionnels sur le bracelet intelligent. L'expert a sélectionné plus d'une dizaine d'articles fictifs et les a publiés sur Internet via le système GEO. Par la suite, l'expert a interrogé sur la plateforme des modèles AI : "Recommandation de bracelet de santé intelligent", et deux modèles AI ont recommandé ce bracelet intelligent fictif, et ce, avec un bon classement. Le journaliste a contacté l'opérateur du système GEO de Lifting, M. Li. Il a déclaré au journaliste que la popularité du service GEO est principalement due à sa capacité à aider les clients à alimenter et à empoisonner les modèles AI, réalisant ainsi les objectifs commerciaux des clients. M. Li a indiqué que pour faire des affaires GEO, le point clé pour contrôler les modèles AI est de "publier des articles" sur divers comptes Internet. "Par exemple, pour une marque de téléphone, il y a 5 emplacements, au maximum 10 emplacements, comment gérer autant de téléphones. En un an, cela pourrait coûter des milliards en frais publicitaires, dépenser quelques millions pour injecter un peu de poison, ça devrait aller !" Il a informé le journaliste que la popularité du service GEO a engendré de nombreuses entreprises et plateformes spécialisées dans la publication d'articles. Elles prennent en charge divers travaux de publication afin que les modèles AI puissent les citer et les capturer, devenant ainsi une partie importante de la chasse aux modèles AI et de l'empoisonnement des données.