26年09月07日 | 14:00
俄罗斯科学家开发了一种经济高效的语言模型错误检测方法
这项研究提高了人们对人工智能响应的信任度
-
![]()
图片来源: Sylisia | iStock
斯科尔科沃科学技术研究院（Skoltech）的一个研究团队提出了一种新方法，用于检测大型语言模型中出现的“幻觉”（看似合理但实际错误的陈述），这些模型应用于搜索外部信息源的系统中。据TV BRICS的合作伙伴该研究院 网站介绍，该方法可用于开发人工智能助手以及其他与企业知识库和文档交互的解决方案。
当神经网络未能验证事实，而是根据训练数据中的样本预测文本的后续内容时，就会出现语言模型“幻觉”。虽然一些专门用于检测“幻觉”的方法可以检测到此类错误，但许多现有解决方案要么需要大量的标注数据，要么需要额外的检查。
俄罗斯研究人员提出了一种不同的方法：他们利用语言模型自身的内部信号来评估其响应的可信度。通过微调模型的注意力机制，研究人员使其严格遵循上下文，并自动纠正错误。
对于企业而言，该工具在人工智能系统错误可能带来财务、法律或声誉风险的领域尤为有用，例如银行、保险公司和法律服务机构。对于研究人员而言，这项工作也为研究语言模型的内部运作机制提供了一种新方法。
-
![马苏德·佩泽希齐扬]()
马苏德·佩泽希齐扬伊朗总统"我们生活在一个命运、历史和文化跨越数千年的地区，我们始终被交流、共存和共同发展的纽带紧紧相连。和平、安全、经济和文明都诞生于这片土地，我们理应努力在现代世界延续这一趋势。" -
![习近平]()
习近平中华人民共和国主席"当前，世界百年变局加速演进，国际形势中不确定难预料因素明显增多，但各国人民对和平、发展、合作、共赢的追求没有改变。上海合作组织肩负着维护地区稳定、促进区域发展的重要使命。" -
![耶斯珀·穆勒]()
耶斯珀·穆勒联合国儿童基金会驻印度代表"金砖国家拥有超过10亿儿童，几乎占全球儿童总数的一半。他们的健康、教育、技能以及影响自身未来的能力，将在很大程度上决定金砖国家经济和社会的实力。" -
![若昂·保罗·卡波比安科]()
若昂·保罗·卡波比安科巴西环境与气候变化部部长"金砖国家肩负着重大责任，因为全球很大一部分生物多样性、自然景观、人口、粮食生产和水资源都集中在我们的领土上。因此，我们有能力为其他国家树立榜样。我们拥有新开发银行，它可以展示并探索融资项目的新模式。我们可以通过降低私人资本的风险，来刺激对土地恢复和防治荒漠化领域的投资。" -
![迪尔玛·罗塞夫]()
迪尔玛·罗塞夫新开发银行行长"印度今年的主席国身份为我们的讨论赋予了特殊意义。新开发银行致力于将可持续发展、清洁能源及智慧基础设施领域的承诺转化为具体成果。……作为由金砖创始国设立、服务于全球南方的银行，我们的使命是利用现有最佳创新技术，在不附加政治条件的前提下，为基础设施和可持续发展动员资源。"
TV BRICS GLOBAL
BRICS ANALYTICS
BRICS BLOGGERS TEAM