Openai 报告中国相关用户在网络攻击行动中使用 ChatGPT 阿拉伯邮报

（MENAFN-阿拉伯邮报）

OpenAI披露，一名与中国执法机构有关联的个人的ChatGPT账户在一次多方面的网络攻击和影响力操作中被利用，依据其最新的恶意AI使用威胁报告。该账户被用来起草、策划和记录包括网络骚扰、秘密影响运动以及跨数百平台的行动协调等活动，促使OpenAI封禁了相关账户，并强调人工智能工具正被滥用以支持复杂的恶意工作流程。

该公司威胁情报的发现显示，虽然ChatGPT未被直接用于编写网络入侵或漏洞开发的代码，但它在生成叙事、完善宣传以及追踪针对中国政府批评者的广泛行动状态方面发挥了核心作用。OpenAI的调查人员将ChatGPT中创建的“草稿”和“情况报告”与社交网络、博客及其他在线空间的实际活动相匹配，证明该模型已融入更广泛的网络和影响力运动中。

OpenAI的报告强调了AI滥用的不断演变，威胁行为者将生成工具与传统的网络技术和社交媒体基础设施结合使用。在一个突出的案例中，被封禁的账户被用来撰写大量内部称为“网络特种行动”的日志，包括试图恐吓海外异见分子和伪造关于他们死亡的新闻报道。这些信息随后通过多个数字平台上的协调账户进行传播，放大了虚假信息和骚扰。

尽管在此背景下AI的恶意使用未涉及系统的自主利用，安全专家表示，将生成模型与协调的在线影响力行动相结合，标志着网络和心理操作方式的重大转变。OpenAI威胁报告中记录的技术反映出叙事构建和行动追踪的日益复杂，尤其是在威胁行为者采用AI工具以提升规模和精准度的情况下。

另请参见 无代码AI代理如何帮助中东和北非地区的小企业实现规模化

与中国执法机构相关的案例是国家相关行为者滥用AI模型进行有害活动的更广泛模式的一部分。过去的情报报告曾描述过利用大型语言模型协助开发多语言钓鱼信息、定制恶意软件模板和针对北美、欧洲及亚洲组织的定向钓鱼行动的操作。其中一组被研究人员追踪为UTA0388的团体，据报道使用生成式AI制作多语言的高度定制钓鱼邮件，结合建立关系的策略与恶意载荷进行攻击。

之前行业分析中识别的其他威胁团体显示，滥用行为并不限于某一地区或行为者类型；与俄罗斯和朝鲜有关的威胁行为者也被观察到利用生成式AI优化恶意软件代码、起草钓鱼诱饵以及生成虚假身份进行社会工程。例如，朝鲜操作员使用ChatGPT创建深度伪造的军事身份证件，嵌入钓鱼行动中，目标是国防相关机构；而俄罗斯团体则利用AI改进Windows恶意软件。

OpenAI的报告强调，涉及AI的威胁活动很少局限于单一平台或工具。相反，恶意操作者通常在工作流程的不同阶段结合多种AI模型和数字服务，将生成的文本输出与自动脚本、社交账户和定制恶意软件等技术结合使用。这种整合方式可以放大影响力行动、诈骗和网络攻击的范围和效果，即使生成模型本身未直接执行技术性漏洞。

该公司持续两年以上的威胁情报计划旨在揭示这些新兴战术，并支持更广泛的检测和缓解AI辅助滥用的努力。通过记录案例研究和分享见解，OpenAI希望帮助行业合作伙伴和更广泛的安全社区适应威胁行为者不断演变的人工智能使用方式。报告指出，虽然模型滥用只是更大威胁生态系统中的一个组成部分，但理解行为模式和操作流程对于增强互联网防御至关重要。

另请参见 Alexa采用可定制的AI角色

专家指出，生成模型在影响力和网络操作中的滥用反映了威胁格局中的更广泛趋势，即社会工程和叙事攻击的复杂性不断提升。学术界长期警告这些工具可以自动生成令人信服且具有误导性的文本，用于影响行动，而OpenAI的发现则展示了这些能力正被有心的恶意行为者所利用。

发现问题？ 阿拉伯邮报致力于为读者提供最准确可靠的信息。如果您认为本文中存在错误或不一致之处，请随时联系我们的编辑团队，邮箱：editor[at]thearabianpost[dot]com。我们承诺及时处理您的疑问，并确保最高的新闻诚信。

MENAFN27022026000152002308ID1110797831