谷歌和微软的许多示例都展示了单个预测,以展示训练模型的能力。
然而,我希望通过批量预测来展示训练模型的有效性,具体包括a) 多个手动输入和b) 使用没有标签的文件进行预测。
我已经按照二元分类示例进行操作,并尝试将其映射到多类分类示例上,但预测结果并未显示。
以下是多类分类示例中展示的单个预测
// Single PredictionITransformer loadedModel = _mlContext.Model.Load(_modelPath, out var modelInputSchema);GitHubIssue singleIssue = new GitHubIssue() { Title = "Entity Framework crashes", Description = "When connecting to the database, EF is crashing" }; // Our single issue_predEngine = _mlContext.Model.CreatePredictionEngine<GitHubIssue, IssuePrediction>(loadedModel);var singleprediction = _predEngine.Predict(singleIssue);Console.WriteLine($"=============== Single Prediction - Result: {singleprediction.Area} ===============");
以下是二元分类示例中展示的批量预测,但在当前场景中不起作用。
// Batch Predictions from EnumerableITransformer loadedModel = _mlContext.Model.Load(_modelPath, out var modelInputSchema);IDataView batchIssues = _mlContext.Data.LoadFromEnumerable(issues);IDataView predictions = loadedModel.Transform(batchIssues);IEnumerable<GitHubIssue> predictedResults = _mlContext.Data.CreateEnumerable<GitHubIssue>(predictions, reuseRowObject: false);foreach (GitHubIssue prediction in predictedResults){Console.WriteLine($"Title: {prediction.Title} | Prediction: {prediction.Area}");}
在单个预测后,我得到了以下结果:
area-System.Data
而批量处理并未预测出输出,我认为它并没有进行预测,但在阅读微软的ML.NET网站上的资料时,它指出transform将使用模型对一批数据进行预测。
“使用Transform()方法通过模型预测评论数据的情感”
问题1)我不确定在批量预测的可枚举对象中缺少什么,无法获得像单个值中显示的prediction.area的预测结果。
问题2)如何调整可枚举对象以加载未标记信息的文件进行预测。
回答:
请注意:此处的所有代码都放置在多类分类示例的PredictIssues方法中。
问题1的答案
调整代码以使用predEngine,然后在foreach中的单个预测上使用predict函数是有效的。为此需要进行两个更改:
var batchPrediction = _predEngine;Console.WriteLine($"Prediction: {batchPrediction.Predict(prediction).Area}");
此外,我删除了以下行:
IDataView predictions = loadedModel.Transform(batchIssues);
删除此函数对预测结果没有影响。看起来有效的完整代码如下:
IEnumerable<GitHubIssue> issues = new[]{ new GitHubIssue { Title = "Entity Framework crashes", Description = "When connecting to the database, EF is crashing" }, new GitHubIssue { Title = "Github Down", Description = "When going to the website, github says it is down" }};var batchPrediction = _predEngine;// Batch Predictions from EnumerableIDataView batchIssues = _mlContext.Data.LoadFromEnumerable(issues);IEnumerable<GitHubIssue> predictedResults = _mlContext.Data.CreateEnumerable<GitHubIssue>(batchIssues, reuseRowObject: false);foreach (GitHubIssue prediction in predictedResults){ Console.WriteLine($"Title: {prediction.Title} | Prediction: {batchPrediction.Predict(prediction).Area}");}
问题2的答案
我创建了一个新文件,包含ID、Area(此处留空)、Title和Description,与测试和训练数据文件类似。
我在全局范围内(命名空间下方)添加了两个变量,如下所示:
private static string _myTestDataPath => Path.Combine(_appPath, "..", "..", "..", "Data", "myTestData.tsv");private static IDataView _myTestDataView;
我没有创建IEnumerable,而是直接传递文件,如下所示:
_myTestDataView = _mlContext.Data.LoadFromTextFile<GitHubIssue>(_myTestDataPath, hasHeader: true);
以下是方法的完整示例:
ITransformer loadedModel = _mlContext.Model.Load(_modelPath, out var modelInputSchema);_predEngine = _mlContext.Model.CreatePredictionEngine<GitHubIssue, IssuePrediction>(loadedModel);_myTestDataView = _mlContext.Data.LoadFromTextFile<GitHubIssue>(_myTestDataPath, hasHeader: true);IDataView predictions = loadedModel.Transform(_myTestDataView);var batchPrediction = _predEngine;IEnumerable<GitHubIssue> predictedResults = _mlContext.Data.CreateEnumerable<GitHubIssue>(predictions, reuseRowObject: false);foreach (GitHubIssue prediction in predictedResults){ Console.WriteLine($"Title: {prediction.Title} | Prediction: {batchPrediction.Predict(prediction).Area}");}
作为补充说明,将批量预测与单个预测进行比较时,必须在输出的末尾包含.Area,如最后一行所示
// Manual Batch PredictionsConsole.WriteLine($"Title: {prediction.Title} | Prediction: {batchPrediction.Predict(prediction).Area}");// File-based Batch PredictionsConsole.WriteLine($"Title: {prediction.Title} | Prediction: {batchPrediction.Predict(prediction).Area}");