洞察：网信课堂_1

供应信息

“所有高科技都是西方人发明的”“历史是可以捏造的”……近期，某款儿童智能手表频出“答案”事件引发社会普遍关注，也触发了人们对人工智能（AI）新的担忧：眼下，越来越多的AI生成功能被集成到手机手表等个人智能终端中，随着个人智能终端向低龄人群普及，AI生成所表现出来的“观”对未来人们的“观”将产生重大而深远的影响。人们不得不思考，未来人们的认知和思想会不会被AI“控制”谁又来给AI的“观”把关
AI主要是基于大规模数据集训练而形成学习和生成能力，在初始的海量数据训练中，AI并不具备辨识能力，只会将开发者提供的海量数据“照单全收”。这意味着，AI也有可能海量吸收那些违背社会主流价值观的数据信息。目前，国内外AI大模型均处于飞速迭代中，开发者往往重视AI在学习、集成、生成等方面的技术研发，却忽略对AI所承载的伦理责任的审视。在急于将新产品推向市场、抢占市场份额的同时，往往会省却筛选生成内容等步骤。如果缺少稳固的伦理防线，AI生成产品的潜在风险疑是巨大的。
任何一款AI的培育过程都凝聚着开发者的心血，也同样凝聚着开发者的立场和思想。如果开发者从培育AI之初，就有目的地塑造训练，那么AI也大抵会“长”成开发者所希望的样子。开发者的立场和思想会通过AI强大的传播力，形成广泛渗透，对人们的思想行为产生重大影响。如果这一过程得不到外部相应的干预引导,那这款AI很有可能会成为开发者现一己愿望的工具。
为AI树立正确的“观”，亟待从层面建立一套严格的伦理审查机制，切监督AI生成产品所具备的功能，对训练数据进行仔细筛选和检查，确保人工智能所学习的知识范围正向、客观，符合社会主流价值观。同时，要对AI产品进行持续化和改进，使用经过筛选的干净数据集来训练人工智能，及时排查可能出现的“观”偏差问题，不断提高AI生成产品的质量和可靠性。在AI生成内容后，还应进行再评估，对人们从中获取到的信息进行价值观判断，以确保其满足社会主流价值观标准。
此外，社会各界也应加强对AI的监督，不能任其“野蛮生长”。有关部门和相关机构应当明确界限，制定法律法规，规范AI产品的开发和销售，为技术伦理“拉一条准绳”。消费者应利用反馈机制，及时反映产品出现的不良现象。平台作为AI服务的提供者，则应当加强生成内容的自审把关，加强技术的伦理审核，从各个环节消灭“答案”生成的土壤。

随着行业的影响力不断扩大，ai agent的生意也在不断的蔓延，市场的发展也在逐步推进。BetterYeah，国内顶尖的企业级AI智能体平台，采用先进的RAG算法、自定义工作流和多模态大模型技术，为零售、金融等行业提供AI知识库构建、智能客服和营销自动化等一站式AI应用场景解决方案。https://www.betteryeah.com/agentstore