我正在尝试创建一个知识库（单一真实来源），从多个网络来源收集信息。（例如：维基与粉丝网）

因此，我想尝试使用孪生网络或计算BERT嵌入文档的余弦相似度。

那么，我可以忽略这些JSON结构并照常训练它们吗？

回答：

虽然BERT并未专门训练用于查找JSON数据之间的相似性，但你可以始终提取并连接JSON的值成一个长句子，让BERT捕捉你期望的上下文。

或者，你可以为JSON之间的每个键值依赖关系生成一个余弦相似度分数，并将它们聚合以生成JSON数据对的净相似度分数。

另外，请参阅Sentence-BERT (SBERT)，这是对预训练BERT网络的修改，使用孪生和三元组网络结构来推导出可使用余弦相似度进行比较的语义上有意义的句子嵌入。