据OpenAI周三发布的一份报告，一个源自俄罗斯的网络利用ChatGPT推广一家自称学术机构的组织，该组织以学术研究所的名义伪装自身。
OpenAI表示，已封禁一组账户，其操作者使用俄语提示词生成主要以英文撰写的社交媒体帖子和评论。他们还应ChatGPT要求隐藏内容源自俄罗斯的痕迹。
OpenAI指出：“尽管该活动似乎触及了相对较小的受众，但其精心构建的方式使我们自乌克兰战争开始以来捣毁的其他俄罗斯关联影响力行动有所不同。”由于ChatGPT在俄罗斯不可用，该组织使用虚拟专用网络（VPN）掩饰位置并访问服务。
该团体利用ChatGPT推广“国际伯克研究所”（International Burke Institute），该机构声称是位于以色列的专家小组，通过看似官方的简介和冒充普通用户的账户进行宣传。OpenAI发现，该研究所网站上的36篇文章中有34篇为抄袭，部分署名为并未撰写它们的学者。“其中一些文章已有多年历史；另一些则被错误归因，”OpenAI写道。“例如，一篇关于中巴经济走廊的文章似乎抄袭自剑桥大学出版社的原作，却被错误署名给一位专攻南亚政治的诺丁汉大学教授。”
类似的政治影响活动也曾使用生成式AI。2024年，OpenAI识别出另一个名为Doppelganger的俄罗斯关联活动，该网络利用ChatGPT创建文章、社媒帖子和评论，赞扬俄罗斯并攻击乌克兰、北约和美国。俄罗斯关联团体还将ChatGPT用于网络行动，如Forest Blizzard（与俄军事情报相关）利用聊天机器人研究目标、编写脚本并支持钓鱼攻击。
虽然该团体可能使用了俄语提示词，OpenAI并未将IBI活动归因于俄罗斯政府。根据OpenAI说法，以色列的一些人士可能在会议或投稿中代表了该研究所，但他们与活动的关联仍不清楚。“我们无法确定这些个人、IBI与俄罗斯操作者之间的关系，”OpenAI写道。