首页 >> 高凌风

一个新的人工智能系统生成伪造的文档来欺骗对手

2022-10-18 18:37:47

间谍活动中的“金丝雀陷阱”技术散布了多种版本的虚假文件以掩盖秘密。金丝雀陷阱可以用来嗅探信息泄漏，或者像第二次世界大战一样，造成分散注意力的信息，从而隐藏有价值的信息。

WE-FORGE是达特茅斯大学计算机科学系设计的一种新的数据保护系统，它利用人工智能在金丝雀陷阱概念的基础上进行开发该系统自动创建虚假文件以保护知识产权，例如药物设计和军事技术。

网络安全，技术和社会学杰出教授，安全技术与技术研究所所长VS Subrahmanian说：“该系统所产生的文档与原始文档足够相似，但看起来很合理，而与真实文档却足够不同。”社会。

网络安全专家已经在使用金丝雀陷阱，“蜜文件”和外语翻译来创建诱骗潜在攻击者的诱饵。WE-FORGE通过使用自然语言处理来自动生成多个可信且不正确的伪造文件，从而对这些技术进行了改进。该系统还插入了一个随机元素，以防止对手轻易识别真实文档。

WE-FORGE可用于创建任何技术设计文档的大量伪造版本。当对手入侵系统时，他们面临着艰巨的任务，要弄清许多相似文件中的哪一个是真实的。

苏布拉曼尼安说：“使用这种技术，我们迫使对手浪费时间和精力来确定正确的文件。即使他们这样做了，他们也可能对自己的正确性不抱有信心。”

创建虚假的技术文档同样令人生畏。根据研究团队的说法，一项专利可以包含1,000多个概念，最多可以替换20个。WE-FORGE最终可能考虑在单个技术文档中可能需要替换的所有概念的数百万种可能性。

Subrahmanian说：“恶意行为者现在正在窃取知识产权，并免费获得知识产权。” “这个系统增加了窃贼在窃取政府或行业机密时的成本。”

WE-FORGE算法的工作原理是计算文档中概念之间的相似度，然后分析每个单词与文档之间的相关性。然后，系统将概念分类到“箱”中，并为每个组计算可行的候选者。

“ WE-FORGE也可以从原始文档的作者那里得到意见，”参与该项目的达特茅斯大学研究生Dongdong Chen说。“人与机器的聪明才智相结合会进一步增加知识产权盗贼的成本。”

作为研究的一部分，研究小组伪造了一系列计算机科学和化学专利，并请知识渊博的专家小组决定哪些文件是真实的。

根据发表在ACM Transactions on Management Information Systems上的研究报告，WE-FORGE系统能够“始终如一地为每个任务生成高度可信的伪造文档”。

与其他工具不同，WE-FORGE专门伪造技术信息，而不仅仅是隐藏诸如密码之类的简单信息。

WE-FORGE消除了创建与特定技术相关的概念指南的耗时需求，从而对系统的早期版本进行了改进。WE-FORGE还确保假货之间存在更大的差异，并遵循一种改进的技术来选择要替换的概念及其替换物。

Almas Abdibayev，Deepti Poluru Guarini和Haipeng Chen都在达特茅斯大学的计算机科学系为这项研究做出了贡献。