OpenAI 最新发布的威胁情报报告显示，该公司已经封禁多个与朝鲜黑客组织极其附属机构有关联的账号，这些黑客使用 ChatGPT 研究漏洞和寻求社会工程学攻击的方法。
被封禁的账号并非 OpenAI 自己发现的，而是与 OpenAI 合作的行业合作伙伴在日常检测中发现，经过确认后这些账号全部被封禁无法继续使用。
黑客组织使用 ChatGPT 实施的恶意活动包括：
询问各种应用程序中存在的安全漏洞 (包括那些已经被修复的过时漏洞，但还有不少企业并未更新)
开发并排除基于 C# 开发的 RDP 客户端问题，以实现请求代码绕过未经授权的 RDP 警告
请求大量 PowerShell 脚本用于 RDP 连接、文件上传和下载、从内存中执行代码以及混淆 HTML 内容
讨论如何创建和部署混淆的有效载荷以供后续使用
寻求针对加密货币投资者和交易者进行有针对性的网络钓鱼和社会工程学方法
精心制作网络钓鱼电子邮件和通知等，操纵用户泄露敏感信息
威胁报告显示黑客关注的领域主要是使用 ChatGPT 查找与加密货币相关的信息，使用 ChatGPT 进行辅助编程，包括如何使用开源远程管理工具 RAT、用于 RDP 远程桌面协议的暴力攻击、公开可用的安全工具和代码调试等。
OpenAI 称这些黑客还使用 AI 模型执行与工作相关的任务，例如编写代码、排除故障以及与同事发送信息等，为了避免被发现，黑客还故意询问无关的内容来掩饰不寻常的行为。
最后通过排查日志 OpenAI 注意到黑客正在调试自动启动扩展点 (ASEP) 位置和 macOS 攻击技术，这泄露了黑客使用的恶意二进制文件暂存 URL，OpenAI 已经将该 URL 和恶意文件共享给安全社区实现后续的查杀。