Règlement sur la gestion des services de personnes virtuelles numériques : « Centré sur l'humain », délimiter les frontières, ancrer la direction

Écrire : Zhang Feng

I. La course technologique effrénée et le retard dans la gouvernance, où se situent les limites du service des personnes virtuelles numériques ?

Lorsque des hôtes virtuels alimentés par l’IA effectuent des ventes 24 heures sur 24, lorsque le « fonctionnaire numérique » dans les halls de services gouvernementaux répond patiemment aux questions, lorsque dans le domaine de la vulgarisation médicale apparaît un « médecin IA » infatigable, nous assistons à l’émergence d’un nouveau paysage social profondément intégré par des personnes virtuelles numériques. Grâce à ses avantages évidents de faible coût, forte interactivité, haute efficacité et service 24/7, la personne virtuelle numérique est rapidement devenue un levier clé pour stimuler le développement de l’économie intelligente. De la diffusion en direct du commerce électronique à la promotion culturelle et touristique, de la vulgarisation médicale à la consultation administrative, ses scénarios d’application s’étendent avec une ampleur et une profondeur sans précédent.

Cependant, la progression rapide de la technologie précède souvent l’établissement de règles. Lorsqu’une image virtuelle peut être indiscernable de la réalité, lorsque la conversation IA peut contenir des biais, lorsque des agents autonomes évolutifs (Agents) ont des comportements difficiles à prévoir, une série de questions aiguës surgissent : où se situent réellement les limites du service des personnes virtuelles numériques ? Qui doit assumer la responsabilité de leurs actions ? Comment garantir que le développement technologique ne dévie pas de la voie « centrée sur l’humain » tout en poursuivant efficacité et innovation ? Ce ne sont pas seulement des questions techniques, mais aussi des enjeux liés à la confiance sociale, à l’éthique et au développement à long terme. Récemment, le « Règlement sur la gestion des services d’information des personnes virtuelles numériques (Projet de consultation) » publié par le Bureau national d’Internet et d’informations est une réponse concentrée à ces questions de l’époque.

II. Risques multiples imbriqués, appel à une régulation systémique et à des principes de « technologie bienveillante »

La nécessité de définir des limites pour le service des personnes virtuelles numériques provient des risques et défis multiples et imbriqués révélés lors de leur développement.

Premièrement, les risques de sécurité et d’éthique. La technologie de synthèse profonde réduit considérablement la barrière pour falsifier des identités, diffuser de fausses informations ou commettre des fraudes émotionnelles, ce qui peut porter atteinte aux droits individuels, perturber l’ordre social, voire menacer la sécurité nationale.

Deuxièmement, le flou de la responsabilité. Les comportements des personnes virtuelles numériques étant pilotés par des algorithmes, la chaîne de responsabilité entre leurs concepteurs, développeurs, opérateurs et utilisateurs est complexe. En cas de problème, il est facile de tomber dans le dilemme de la « boîte noire algorithmique » et du vide de responsabilité.

Troisièmement, le risque de fracture numérique et de renforcement des biais. Si les données d’entraînement des algorithmes sont biaisées, les personnes virtuelles numériques peuvent involontairement amplifier les préjugés sociaux existants ou créer de nouvelles formes de discrimination dans leurs services.

Plus profondément, avec le développement de technologies de pointe telles que le protocole d’évolution autonome des agents intelligents Rotifer, des agents dotés de capacités d’apprentissage et d’évolution autonomes pourraient adopter des comportements dépassant les objectifs initiaux, avec des impacts sociaux à long terme incertains.

Ces risques ne sont pas isolés, ils sont interconnectés, pointant tous vers une contradiction centrale : le potentiel énorme de progrès technologique face au retard de la gouvernance existante. Par conséquent, l’adoption du « Règlement » ne se limite pas à une réponse d’urgence à des déviations spécifiques, mais constitue une base logique pour le développement sain de l’économie numérique, incarnant la pratique institutionnelle du principe « centrée sur l’humain, technologique bienveillante ».

III. Normes globales et responsabilité transversale, construire un cadre de gouvernance « centré sur l’humain »

Face à ces défis, le « Règlement » construit un cadre de gouvernance basé sur la « norme de processus complet » et la « responsabilité transversale ». La stratégie centrale peut être résumée par « délimiter la ligne rouge, clarifier les acteurs, renforcer la supervision, promouvoir la bienveillance ».

Premièrement, définir clairement la ligne de sécurité et d’éthique infranchissable. Le règlement énumère en détail les comportements interdits pour l’utilisation des personnes virtuelles numériques, notamment mais sans s’y limiter, nuire à la sécurité nationale, porter atteinte à l’intérêt public, violer les droits légitimes d’autrui, diffuser de fausses informations ou perturber l’ordre économique et social. Cela établit une ligne rouge claire pour tous les acteurs du marché.

Deuxièmement, établir et faire respecter la responsabilité de chaque acteur. Le règlement précise les obligations des fournisseurs de services, des soutiens techniques, des producteurs de contenu et des utilisateurs, notamment en matière d’enregistrement, d’identification, de vérification de contenu, de sécurité des données et de gestion des urgences, assurant ainsi la traçabilité et la responsabilité de la chaîne.

Troisièmement, insister sur une approche « centrée sur l’humain » dans la conception et l’application des personnes virtuelles. Cela implique de respecter la morale sociale et l’éthique, de protéger le droit à l’information et au choix des utilisateurs, d’éviter l’abus de données personnelles ou la recommandation excessive, et de garantir que la technologie serve le développement global de l’individu.

Quatrièmement, promouvoir la « technologie bienveillante » en encourageant l’innovation responsable dans le cadre réglementaire. Le règlement ne limite pas le développement technologique, mais établit une zone de sécurité pour soutenir une innovation responsable, favoriser la collaboration entre industrie, université et recherche, et orienter les ressources vers des applications éthiques et bénéfiques. Ce dispositif vise à transformer « centré sur l’humain » d’une idée abstraite en règles concrètes et réglementables.

IV. Douleurs à court terme et bénéfices à long terme, injecter de la certitude dans l’économie intelligente

L’introduction et la mise en œuvre du « Règlement » devraient avoir un impact profond sur l’industrie des personnes virtuelles numériques et sur l’écosystème de l’économie intelligente dans son ensemble.

À court terme, le secteur pourrait connaître une période de « douleur » avec une augmentation des coûts de conformité et une limitation de certains modes de croissance sauvage. Les entreprises devront investir dans la rectification technologique, établir des mécanismes d’audit interne, compléter les processus d’enregistrement, et certains usages borderline seront contraints de s’ajuster ou de disparaître.

À long terme, les bénéfices de cette régulation en termes de « certitude » dépasseront largement les coûts initiaux. Elle renforcera la crédibilité de l’industrie et son acceptation sociale. Des règles claires élimineront les inquiétudes publiques concernant l’abus technologique, favorisant la confiance des utilisateurs, base psychologique essentielle à la croissance. Elle optimisera également la concurrence en éliminant les acteurs de faible qualité ou non conformes, orientant les ressources et l’attention vers des entreprises réellement compétentes et responsables, stimulant une offre de qualité. Enfin, elle fournira aux investisseurs et aux chercheurs une orientation claire vers des secteurs à forte valeur sociale, tels que l’éducation, la santé, la retraite ou la transmission culturelle.

Au final, un écosystème d’industrie des personnes virtuelles numériques régulé, sain et durable deviendra la base solide pour l’approfondissement de l’action « Intelligence artificielle + », soutenant la transformation numérique des industries traditionnelles et la création de nouvelles formes d’économie intelligente. Sur le plan macro, cela constitue aussi une avancée institutionnelle importante dans la gouvernance de l’intelligence artificielle en Chine, contribuant à une « solution chinoise » équilibrant innovation et régulation à l’échelle mondiale.

V. Défis de la mise en œuvre des règles, l’évolution technologique apportant de nouvelles questions

Bien que le « Règlement » ait posé un cadre de régulation de base, sa mise en œuvre concrète fait face à des défis liés à l’intégration technologique, à la responsabilité, à l’absence de standards, et à l’évolution rapide des technologies.

Le premier risque concerne la complexité de la régulation technologique. La technologie des personnes virtuelles numériques intègre l’IA, la synthèse graphique, le traitement du langage naturel, ainsi que des technologies de pointe comme la blockchain ou le calcul quantique, avec des comportements dynamiques et complexes. La régulation doit pouvoir identifier efficacement les contenus et comportements non conformes sans freiner l’innovation, ce qui exige des capacités avancées en technologie de régulation (RegTech).

Ensuite, la difficulté pratique de l’attribution de responsabilité. Par exemple, lorsqu’un personnage virtuel développé à partir d’un écosystème open source pose problème, comment répartir précisément la responsabilité entre la communauté open source, les ajusteurs de modèles, les intégrateurs et les opérateurs finaux ?

De plus, l’absence de standards constitue une faiblesse majeure. Il manque encore des normes uniformes et détaillées concernant l’identification, l’évaluation éthique, la transparence des algorithmes ou les tests de performance pour les personnes virtuelles numériques, ce qui peut entraîner des disparités dans l’application de la loi selon les régions et affecter l’équité.

Enfin, le risque fondamental réside dans la rapidité de l’évolution technologique, notamment l’autonomie des agents, la collaboration multi-agent, et la possible intégration avec le calcul quantique, qui remet en question la prévisibilité et l’inclusivité des règles existantes. La réglementation doit être suffisamment flexible, mais l’équilibre entre souplesse et rigidité est difficile à atteindre. Ces risques rappellent que la gouvernance est un processus évolutif, et non une solution unique.

VI. Coévolution de la gouvernance et de la technologie, vers un avenir « responsable intelligent »

En regardant vers l’avenir, la gouvernance des personnes virtuelles numériques évoluera en synergie profonde avec la technologie elle-même.

Premièrement, la gouvernance deviendra de plus en plus « technologique » et « intelligente ». Les autorités de régulation utiliseront davantage l’IA pour la surveillance, par exemple en développant des plateformes de détection de contenus de deepfake ou en établissant des réseaux de surveillance des comportements des personnes virtuelles, réalisant ainsi une « gouvernance par la technologie ». La blockchain pourrait être utilisée pour créer des identifiants immuables et des chaînes de preuve d’activité, renforçant la traçabilité.

Deuxièmement, l’écosystème open source jouera un rôle clé dans l’innovation responsable. Un écosystème open source sain pourra promouvoir les meilleures pratiques industrielles, partager des outils de conformité (comme des modules d’évaluation éthique), réduire les barrières pour les PME, et intégrer dans le code les principes de « technologie bienveillante ».

Troisièmement, la mise en place de standards et de mécanismes de certification s’accélérera. Sous la direction du « Règlement », les associations industrielles et organismes de normalisation élaboreront des standards complets pour les données, algorithmes, applications et évaluations, et pourront développer des mécanismes de certification éthique tiers, devenant une référence pour le marché.

Quatrièmement, la gouvernance passera d’une « réaction après coup » à une « prévention en amont » et une « intervention en cours ». Par exemple, en vérifiant les biais dans les données d’entraînement, en alignant éthiquement les objectifs des algorithmes, ou en simulant les comportements dans des environnements contrôlés, afin de maîtriser les risques dès leur apparition. Pour des protocoles comme Rotifer, qui mettent en avant l’évolution autonome, la logique de gouvernance pourrait s’inspirer de « clôtures de sécurité » ou de « Constitution AI », en fixant des principes fondamentaux inaltérables pour l’auto-évolution des agents.

En définitive, nous n’assistons pas à une industrie figée sous la contrainte de règles, mais à un avenir où la « responsabilité intelligente » guidera un développement stable et durable. Les personnes virtuelles numériques deviendront de véritables partenaires pour améliorer la productivité, enrichir la vie culturelle et optimiser les services publics, plutôt que des sources de risques incontrôlables. Ce processus nécessite un dialogue continu entre décideurs politiques, développeurs, entreprises et société civile, avec pour ancrage la valeur toujours renouvelée de « centrée sur l’humain ».