我有如下形式的数据:
[(v1, A1, B1), (v2, A2, B2), (v3, A3, B3), ...]
v
对应数据元素,A
和B
是表征v
的数值。
人类在查看这些数据时,可以根据A
和B
的值判断哪个元组是最佳“匹配”。我希望有一种AI可以通过我选择其中一个元组作为最佳元组来进行训练,并调整对A
和B
的权重。
基本上,每个元组代表对某个值的近似。A
代表误差,B
代表每个近似的复杂度。我希望通过为误差和复杂度分配不同的权重来找到一个折衷方案。我想对不同值的近似进行多次试验,选择我认为最佳的一个,并让AI相应地调整权重。
回答:
你描述的问题也被称为模型选择问题,这在机器学习和统计学中经常遇到。你基本上有一些模型通过某种优度度量(通常以误差或对数似然来衡量)来拟合你的数据,这些模型有一些复杂度度量(通常是模型中的参数数量)。你希望选择最佳拟合的模型并惩罚其复杂度,因为这可能是过拟合的迹象。
通常,过拟合对你的影响程度取决于你的数据大小。但有一些度量明确允许你权衡模型的拟合度和复杂度:
基于上述数据选择模型可能会使模型选择偏向于数据。因此,这通常是使用验证集进行,然后在测试集上进行评估的。
我不知道你让算法解决这个问题的做法是否合适。通常这取决于你的数据和一定程度的直觉。我认为你描述的元机器学习技术可能不太可靠。最好先从一些更有原则和更简单的想法开始。