Les courtiers adoptent OpenClaw, suscitant des préoccupations ! Taiwan a-t-il besoin d'un manuel de sécurité pour l'élevage de homards ? La Commission financière répond

Auteur : Ariel, Ville de la Cryptomonnaie

L’agent AI avec un logo de langouste, OpenClaw, est devenue virale dans le monde entier. Le gouvernement chinois a publié un « Manuel de sécurité pour l’élevage de langoustes » pour rappeler les risques associés. Le député Lai Shibao a observé que certains courtiers et analystes boursiers locaux ont commencé à utiliser OpenClaw. Si l’agent AI passe une commande erronée, qui en assume la responsabilité ? Il appelle également la FSC à élaborer un manuel de sécurité spécifique pour le secteur financier.
La FSC, Peng Jinlong, a répondu au député qu’il n’utilisait pas personnellement OpenClaw, mais qu’il observait que cette pratique était assez courante. Les départements concernés de la FSC étudient déjà des mesures futures pour suivre cette tendance et comprendre l’utilisation par les institutions financières.
Peng Jinlong a indiqué que la FSC avait déjà publié le « Guide pour l’utilisation de l’IA dans le secteur financier », qui souligne que le secteur financier dispose déjà de mécanismes de sécurité informatique et de contrôle interne pour les nouvelles technologies. Si ces outils affectent la sécurité opérationnelle, ils seront examinés et un manuel de sécurité sera élaboré.

Les six points clés du guide de la FSC pour l’utilisation de l’IA dans le secteur financier

• Établir un mécanisme de gouvernance et de responsabilité : Les institutions financières doivent assumer la responsabilité de leurs systèmes d’IA, désigner des cadres supérieurs pour la supervision, établir une structure, et mettre en œuvre la gestion des risques et la formation du personnel.
• Valoriser l’équité et une approche centrée sur l’humain : Éviter les biais algorithmiques qui pourraient causer des injustices, en respectant le principe centré sur l’humain ; la production d’IA générative doit être contrôlée objectivement par du personnel pour gérer les risques.
• Protéger la vie privée et les droits des clients : Assurer la confidentialité et une gestion appropriée des données clients ; lors de l’utilisation de l’IA pour fournir des services, respecter le choix des clients et leur rappeler les alternatives.
• Garantir la robustesse et la sécurité des systèmes : Assurer la stabilité et la sécurité des systèmes d’IA pour éviter tout dommage ; si des systèmes d’IA tiers sont utilisés, appliquer une gestion des risques et une supervision appropriées.
• Assurer la transparence et l’explicabilité : Garantir que le fonctionnement de l’IA soit transparent et compréhensible ; lors d’interactions directes avec les consommateurs, divulguer activement les informations nécessaires.
• Promouvoir le développement durable : L’utilisation de l’IA doit intégrer des principes de durabilité, réduire les inégalités et protéger l’environnement ; en outre, former le personnel pour s’adapter aux changements et préserver leurs droits au travail.

Source de l’image : Générée par Gemini AI ｜ Six points clés du guide de la FSC pour l’utilisation de l’IA dans le secteur financier (schéma illustratif de l’IA)

Le Département de la cybersécurité a répondu aux questions sur la sécurité de l’élevage de langoustes
Concernant les préoccupations de sécurité liées à l’agent AI, le chef du Département de la cybersécurité, Lin Yijing, a indiqué lors d’une audition le même jour que, pour résoudre les problèmes de sécurité et renforcer l’autonomie technologique, Taïwan promeut activement une IA souveraine, garantissant que les modèles d’IA utilisés par le gouvernement et les infrastructures critiques fonctionnent localement et sont soumis à une réglementation légale. Il a mentionné que Nvidia a récemment lancé la plateforme NemoClaw, qui vise à renforcer la sécurité des agents AI.
Pour construire une puissance de calcul propre à Taïwan, le Département a reçu une demande d’investissement de Foxconn pour un centre de calcul, et discute avec le ministère des Finances et la FSC pour ouvrir l’investissement dans le secteur de l’assurance, afin d’éviter que tous les modèles d’IA taïwanais dépendent de l’étranger.

Que dit le manuel de sécurité pour l’élevage de langoustes en Chine ?
OpenClaw a été créé par l’ingénieur autrichien Peter Steinberger, qui a initialement connu un grand succès dans le secteur technologique. L’installation et l’utilisation d’OpenClaw sont appelées « élevage de langoustes ». Récemment, cette tendance a été importée sur le marché chinois, où le public s’est également mis à élever des langoustes, et des services payants d’installation par des ingénieurs ont émergé.
À cet égard, le ministère de la Sécurité nationale chinoise a publié un manuel de sécurité pour l’élevage de langoustes, avertissant que OpenClaw comporte des risques natifs tels que la prise de contrôle de l’hôte, le vol de données et la manipulation de discours, appelant les utilisateurs à limiter strictement les opérations et à privilégier l’exécution dans des environnements isolés (machines virtuelles dédiées, sandbox).

Il y a des élevages de langoustes, il y a aussi des décharges de langoustes
Bien que la tendance à l’élevage de langoustes soit forte, la communauté chinoise voit déjà un passage d’une installation frénétique à un retrait payant. Le BBC, citant des experts, explique que cette vague de recul est due aux coûts élevés et à la complexité technique d’OpenClaw, chaque opération nécessitant des fonds pour invoquer le modèle d’IA.
De plus, le risque de sécurité est une grande préoccupation. Le Centre national d’urgence Internet chinois a indiqué que l’utilisation inappropriée pourrait entraîner le vol d’informations sensibles telles que photos et comptes de paiement, voire des erreurs de compréhension de commandes par l’IA entraînant la suppression accidentelle de données. Pour les utilisateurs ordinaires, l’impact réel de ce logiciel est limité, ce qui explique cette vague de désinstallation.