当金融行业选择训推一体化架构建设大模型时，需要提前考虑那些方面的因素，通过那些方面进行可行性分析？

金融行业建设大模型推理集群和训练集群时，搭配存储进行整体规划，需要考虑那些因素，如何选择合适的存储提升大模型的整体性能？

1.背景：随着人工智能技术的快速发展，大型企业纷纷投入到大型模型（如大语言模型、多模态大模型等）的研发与应用中。大模型因其强大的理解和生成能力，在各个领域都有着广泛的应用前景。然而，要将大模型真正应用于实际场景，为企业带来价值，就需要进行微调项目，这是一个涉及技术研发、...(more)

1.该议题探讨评估微调后大模型在实际业务场景中效果的性能指标，确保模型优化与业务目标一致。2.一些个人看法：性能指标应反映模型准确性、效率、稳定性及业务相关指标，如用户满意度和成本节省。准确性指标包括精确度等；效率指标关注响应时间；稳定性指标评估模型抗扰动能力；业务...(more)

微调后大模型容易出现灾难性遗忘，导致其他能力下降。使用什么数据和技术组合，能提升特定任务的同时，不造成其他能力丧失，对企业处理多业务功能需求有很大意义。

大模型数据治理目前看主要有如下几种方式，大家可以谈谈自己企业倾向哪些模式，并且可以结合您的企业谈谈您选择这个倾向模式的理由。通过这个投票话题的交流，可以很好让同业结合企业自身情况，应该如何选择大模型数据治理模式，感谢！...(more)

在金融行业涉及大量的数据，包括客户交易数据、市场数据等。企业需要从各种来源获取这些数据，并进行整合，以供大模型使用。数据的获取和整合可能涉及到隐私保护、合规性等问题，企业确保数据的隐私和安全是至关重要的，以防止数据泄露和滥用。...(more)

1、需不需要进行pacs备份，如果需要，投入成本巨大，如何有效控制备份成本。如后端采用什么存储设备。2、如果搭建第三方非结构化数据存储平台（类似数据湖，不过是存储类似pacs这种非结构化数据）是否一种有效的防勒索路线呢？...(more)

为推动更多企业加速关键应用系统采纳信创操作系统，走在前列已经使用的企业用户对已使用情况进行梳理，然后把一些关键点通过投票形式与更多实践以及准备实践信创操作系统的行业用户群体达成群体共识，目的是为更多企业落地信创操作系统提供选型决策参考。本次投票共识由：企业IT...(more)

金融行业涉及大量敏感的客户和交易数据，建立大模型需要处理和存储这些数据。确保数据的隐私和安全是至关重要的。在处理大规模金融数据时，有哪些最佳实践和技术措施可以减少数据泄露和滥用的风险？...(more)

大模型作为新的应用范式，对数据存储的需求与传统业务有所不同。本议题交流核心是分析大模型应用对数据存储需求的特殊性在哪些方面？ 又有哪些与传统业务数据存储需求一致的地方？...(more)

为推动更多企业加速关键应用系统采纳信创操作系统，走在前列已经使用的企业用户对已使用情况进行梳理，然后把一些关键点通过投票形式与更多实践以及准备实践信创操作系统的行业用户群体达成群体共识，目的是为更多企业落地信创操作系统提供选型决策参考。本次投票共识由：企业IT...(more)

为推动更多企业加速关键应用系统采纳信创操作系统，走在前列已经使用的企业用户对已使用情况进行梳理，然后把一些关键点通过投票形式与更多实践以及准备实践信创操作系统的行业用户群体达成群体共识，目的是为更多企业落地信创操作系统提供选型决策参考。本次投票共识由：企业IT...(more)

微调过程中，有很多种种任务，如何收集和标注多种情况的数据，对提升大模型的综合能力应对有重要意义，希望大家可以针对：长尾场景下的数据如何清洗进行探讨，可以从方法，措施，以及注意点方面进行共识交流？...(more)

为推动更多企业加速关键应用系统采纳信创操作系统，走在前列已经使用的企业用户对已使用情况进行梳理，然后把一些关键点通过投票形式与更多实践以及准备实践信创操作系统的行业用户群体达成群体共识，目的是为更多企业落地信创操作系统提供选型决策参考。本次投票共识由：企业IT...(more)

在银行风控领域，模型广泛地应用于舆情监测、客户关系挖掘、客户评级、异常预警等场景，也积累了大量的规则和算法，并产生了较大的价值。在当前大语言模型的讨论中，风控是比较热门的潜在应用场景之一，那么大语言模型的什么能力，有可能应用在风控的什么场景，并产生优于原有策略或模...(more)

1.该议题希望构建大模型的评估框架，以科学选择适宜的大模型，确保在特定业务中实现卓越性能。2.一些个人看法评估标准：准确性、效率、资源消耗、模型透明度和系统兼容性。适配性：评估模型在不同数据和任务中的适应性和泛化力。实践案例：案例研究，指导模型选择与评估。3.该议题的...(more)

大模型能够很好的处理很多自然语言相关的问题，但是在使用的过程中，有时候会给出一些明显的，极端错误的答案，这往往会给客户或者一线人员造成较大的迷惑，我们该如何处理这些极端错误答案？...(more)