AICMTY.com
随着我们深入ML和GenAI领域,对数据质量的重视变得至关重要。KMS Technology高级技术创新小组的首席技术官John
Jeske深入研究了数据治理方法,如数据沿袭跟踪和联合学习,以确保顶级模型的性能。
数据质量是模型可持续性和利益相关者信任的关键。在建模过程中,数据质量使长期维护变得更容易,并使你能够在利益相关者社区中建立用户信心和信心。在包括大规模语言和生成性算法在内的复杂模型中,‘垃圾输入,垃圾输出’的影响会加剧。“Jeske说。
基因AI偏向与数据代表性问题
无论你为用例选择哪种模型,糟糕的数据质量都不可避免地会导致GenAI模型的扭曲。陷阱通常来自培训数据,这些数据错误地表示了公司的范围、客户基础或应用程序范围。
真正的资产是数据本身,而不是昙花一现的模型或建模架构。最近几个月,随着大量建模框架的出现,数据作为可货币化资产的一贯价值变得格外明显。
KMS Technology软件服务高级副总裁Jeff
Scott补充道:“当AI生成的内容偏离预期输出时,这不是算法的错误。相反,这反映了培训数据的不足或扭曲。
严格的数据完整性治理
数据治理方面的最佳实践包括元数据管理、数据管理和部署自动化质量检查等活动。例如,确保数据的来源,在获取用于培训和建模的数据时使用经过认证的数据集,以及考虑使用自动化数据质量工具。虽然增加了一层复杂性,但这些工具对于实现数据完整性非常有用。
为了提高数据质量,我们使用了提供数据有效性、完整性检查和时间一致性等属性的工具,这促进了可靠、一致的数据,而这对于健壮的AI模型来说是不可或缺的。
AI发展中的责任追究和持续改进
数据是每个人的问题,在公司内分配数据治理的责任是一项基本任务。
最重要的是确保功能按设计工作,并且从潜在客户的角度来看,正在训练的数据是合理的。反馈加强了学习,然后在下一次训练模型时考虑到反馈,从而调用持续改进,直到信任点。
在我们的工作流程中,AI和ML模型在公开推出之前要经过严格的内部测试。我们的数据工程团队不断收到反馈,允许对模型进行迭代改进,以最大限度地减少偏差和其他异常情况。
风险管理与客户信任
数据治理需要相关业务领域的数据管理,并需要主题专家持续参与,这确保了流经其团队和系统的数据得到适当整理和一致的责任。
必须了解与接收来自技术的不准确结果相关的风险,公司必须评估其透明度,从数据来源和处理知识产权到整体数据质量和完整性。
透明度对客户的信任是不可或缺的,数据治理不仅仅是一项技术工作,由于风险从不准确的AI预测转移到最终用户,它还会影响公司的声誉。
总之,随着GenAI的不断发展,掌握数据治理变得更加关键,这不仅仅是为了维护数据质量,也是为了理解这些数据与利用它的AI模型之间的复杂关系。这种洞察力对于技术进步、业务健康以及维护利益相关者和更广泛公众的信任至关重要。