为什么自然语言处理过程被认为是依赖于语言的?
例如,在这里:http://www.slideshare.net/saschanarr/languageindependent-twitter-sentiment-analysis的第6页上提到:“自然语言处理方法通常是专门为一种语言设计的”。
为什么会这样?我认为一旦使用机器学习实现了方法,算法是相同的,所需的只是不同的训练集…
回答:
在启发式方法的情况下,这些通常是问题和语言依赖的。在机器学习的情况下,是的,从抽象的、理论的角度来看,唯一的区别就是训练集。各种语言的训练集的可用性是第一个问题。接下来是可以从训练集中提取的有用特征的数量,可用于改进机器学习的启发式方法和知识来源的可用性,以及使学习成功所需的超参数等。
例如,考虑命名实体识别(NER)的问题。在英语数据中,“单词首字母大写”这一特征几乎是识别名字的明显标志,但在德语中,每个名词都是大写的。结果是,德语的NER与英语的NER是相当不同的一个问题。