自动驾驶汽车在城市交通中安全行驶，人工智能（AI）生成的文章和图片频繁出现在社交媒体上，配备了智能系统的工厂的流水线以前所未有的效率运行。随着人工智能技术的不断发展，应用场景不断扩大，一系列安全风险和挑战随之产生。如何以安全、稳定、高效的方式保障人工智能健康发展，成为业界普遍关注的问题。作为先进技术的标杆，人工智能领域的任何发展都有可能引起全球的关注。
人工智能将成为第四次工业革命的标准。将加快传统产业转型升级，实现质量变革、效率变革和动力变革，重塑产业基础设施重构、生产和服务模式创新等各个环节，引领新型工业化发展，为智慧经济发展提供新动力。人工智能作为一种技术工具，需要与产业相结合，推动工业数字化转型，进而推动经济社会发展。我国庞大的人口规模、应用场景和完整的产业链为产业落地提供了坚的环境支撑。如果一个企业在某个业务领域有独特的业务数据，就应该在这个垂直领域训练一个大的模型，并与企业的业务工具相结合。未来，企业不会只有一个超级大的模式，而是多个小规模、亿级的模式，每一种模式只会在一种场景下起作用。
发挥场景施的优势，在垂直领域发力，正在成为国内企业在人工智能发展中的共识。在行业实施方面，基于腾讯云TI平台推出的行业大模型，结合行业专业知识和数据培训，以及对企业自身数据的微调，帮助企业快速生成专属模型。目前已为20多个行业输出50多个行业大模型解决方案。
“大模式应用产品发布会”发布了大模式重构升级后的7款产品，涵盖营销内容创作、数字人类、智能客服等七大垂直领域。百度智能云副总裁俞友平表示，作为一个通用的应用，大模型必须与场景紧密结合。业界目前普遍在思考如何在企业中使用大模式。
对于制造业而言，以人工智能和行业场景深度融合为主线，与制造企业的生产环节深度融合，充分利用深度学习和自主决策的优势，可以提高生产过程的智能化水平。浪潮智能生产以大规模智能生产模型为支撑，以“多维数据融合和智能优化引擎”为技术核心，打造了智能生产数据分析平台，已在多家制造企业得到实际应用，对生产效率产生重大影响。增强效果。据了解，专业制造发动机活塞环的福建东亚机械有限公司采用这一智能平台后，通过对机器视觉数据和行业数据集的微调，生产效率提高了20%，产品合格率从90%提高到99%。人工智能带来的安全问题贯穿于人工智能模型的数据采集、数据训练和应用在线操作的全过程。人工智能本体安全或人工智能本质安全应关注人工智能模型和算法本身在可靠性、公平性、可解释性、透明性等方面的安全缺陷。人工智能应用安全指的是人工智能模型从开发、测试、部署到操作交互的整个生存周期中的应用安全。AI衍生的安全，也称为AIGC内容安全，主要集中在审查非法和不规范的内容，如色情和暴力内容产生。从长远来看，随着生成式人工智能的发展，人工智能伦理和AGI可控性将是人工智能安全关注的重点。
随着大型模型的普及和快速迭代，确保其输出满足用户期望和法律要求变得至关重要。大型模型的内容输出风险实质上是模型的推理能力和逻辑风险。这些风险主要体现在模型可能存在“偏差”、“误判”和“幻觉”的现实中。因此，多元数据集对于大型模型的开发是至关重要的。目前，我国的生成式人工智能和大规模模型技术创新还处于初级阶段。数据训练需要尽可能具有包容性和多样性，具有良好价值的高质量数据通常都有版权。如果生成式人工智能由于缺乏高质量的内容，在推理中产生一定的偏差，产生逻辑风险，将不利于产业的深度融合和公共服务水平的提升。
数据是一个核心点。智能模型的决策是基于训练数据的。一方面，不准确的训练数据会影响智能模型的决策，而用于训练样本的数据又面临被泄露或篡改的风险。他建议，可以基于传感器生产智能装备，多维度采集数据，建立与数据准确性、完整性、有效性相关的管理机制。同时，加强技术攻关，基于小样本数据进行快速学习，不断优化模型参数。此外，还可以建立多种数据授权和安全保护机制，确保数据安全。
随着人工智能越来越多地应用于生产和生活的方方面面，关于其使用所产生的真性、伦理要求、权利归属和责任归属等问题的讨论也逐渐增多。
人工智能技术带来了各种不可预知的风险和复杂的挑战。各国应加强人工智能治理的信息交流和技术合作，不断提高人工智能技术的安全性、可靠性、可控性和公平性。有效的治理解决方案既能为人工智能的创新发展和产业化应用提供良好的发展环境，又能妥善应对技术发展过程中的风险和问题。
