安全方面的要求似乎不太喜欢将人工智能用于与安全相关的需求(尤其是在涉及重大潜在破坏/死亡风险的情况下)。有人能解释一下为什么吗?我一直认为,只要你正确地编写逻辑,你在算法中投入的智能越多,这个算法就越有可能防止危险情况。但在实践中情况有所不同吗?
回答:
大多数人工智能算法都是模糊的——通常是在不断学习的过程中。对于具有关键安全重要性的项目,你所需要的是确定性。这些算法更容易证明是正确的,这对于许多安全关键型应用至关重要。
安全方面的要求似乎不太喜欢将人工智能用于与安全相关的需求(尤其是在涉及重大潜在破坏/死亡风险的情况下)。有人能解释一下为什么吗?我一直认为,只要你正确地编写逻辑,你在算法中投入的智能越多,这个算法就越有可能防止危险情况。但在实践中情况有所不同吗?
回答:
大多数人工智能算法都是模糊的——通常是在不断学习的过程中。对于具有关键安全重要性的项目,你所需要的是确定性。这些算法更容易证明是正确的,这对于许多安全关键型应用至关重要。