美国人工智能公司Anthropic表示，黑客已经将其技术“武器化”，用于进行复杂的网络攻击。Anthropic生产了聊天机器人Claude，称其工具被黑客用来“大规模窃取和勒索个人数据”。该公司表示，其人工智能被用于帮助编写执行网络攻击的代码，另外，朝鲜骗子使用Claude欺诈性地获取美国顶尖公司的远程工作。Anthropic表示，已经成功打击了威胁行为，并向当局报告了这些案例，并改进了其检测工具。随着技术变得更加强大和易获取，利用人工智能来帮助编写代码的做法越来越受欢迎。Anthropic表示，检测到了所谓的“情绪操纵黑客”案例，其人工智能被用于编写可入侵至少17个不同组织的代码，包括政府机构。黑客们“以我们认为是前所未有的程度使用人工智能”，他们利用Claude“做出战术和战略决策，比如决定哪些数据外泄，以及如何制定心理上针对性的勒索要求”。他们甚至为受害者建议赎金数额。自主运行的智能技术被视为该领域的下一个重要发展阶段。但这些例子展示了强大工具对潜在网络犯罪受害者造成的一些风险。
网络犯罪和人工智能顾问Alina Timofeeva表示，使用人工智能意味着“利用网络安全漏洞所需的时间正在迅速缩短”，“检测和缓解必须向积极主动和预防性转变，而不是在伤害造成后被动应对”。除了网络犯罪，这项技术还被用于其他用途。Anthropic表示，“朝鲜特工”使用其模型创建假档案申请美国财富500强科技公司的远程工作。长期以来，人们已经知道利用远程工作获取公司系统权限的情况，但Anthropic表示，在这类欺诈方案中使用人工智能是“这类就业骗局的一个全新阶段”。该公司表示，人工智能被用于撰写求职申请，而一旦骗子被聘用，还会用于帮助翻译信息和编写代码。BBC播客《拉撒路抢劫》联合主持Geoff White表示，“朝鲜工人在文化和技术上与外界隔绝，这使他们更难以完成这种欺骗行为”， “自主运行的智能技术可以帮助他们跨越这些障碍，让他们得到聘用”， “他们的新雇主因此在不知情的情况下向朝鲜人支付报酬，违反了国际制裁”。但他说，人工智能“目前并未创造全新的犯罪浪潮...”
