向上向善！专家学者厦门共探算法治理的生态路径

论坛现场。东南网记者 卢金福 摄

论坛现场。东南网记者 卢金福 摄

东南网7月19日报道（本网记者 卢金福）2023年中国网络文明大会算法治理论坛昨日在厦门举办。论坛以“算法治理向上向善 网络文明共建共享”为主题展开探讨，来自算法领域的专家学者和企业代表通过主题演讲等形式，聚焦人工智能技术发展的重点难点，立足算法综合治理在新形势下的迫切需求，共同探讨人工智能技术创新发展新路径、算法综合治理新方法。

算法是数字社会、数字经济的重要基础，在社交媒体、电子商务、信息平台等多领域被广泛应用。在主题演讲环节，6位嘉宾分别围绕“通用人工智能的应用与治理”“AIGC时代全媒体传播体系面临的挑战及对策建议”“AI大模型应用下的算法治理挑战与应对”“智能算法安全现状与综合治理实践”“总台算法——大模型价值认知”等不同角度展望算法治理未来方向，共同寻求合理有效的算法治理路径。

AI应用不断推陈出新

AI变革的时代，随着算力不断发展，数据的膨胀，算法的创新和迭代，业界已经涌现出各种各样的模型，能够把人工智能的能力发挥出来，影响各行各业。近日，阿里云宣布AI绘画创作大模型“通义万相”开启定向邀测，这是继大语言模型“通义千问”、聚焦音视频内容的“通义听悟”之后，阿里云通义大模型家族的又一位新成员。“如果要将大模型算法这一技术推广、运用到生产和科研中去，它的成本一定要降低，才可能被更多人使用，而这也是我们集团当前的发展思路。”阿里云智能集团副总裁朱冉说。

百度自 2019 年开始大模型的研发工作，先后发布知识增强文心系列模型。前不久，百度正式发布文心大模型 3．5 版本，进一步在基础模型、知识增强、检索增强等多项核心技术上取得创新。百度集团人工智能算法委员会主席、集团副总裁吴甜表示，大模型还面临着不少的挑战，大模型建设非常复杂，难度高、成本高，在算力、数据、算法三个层面要有深厚的积累。应用场景虽然现在很丰富，但大量的场景在引入大模型技术解决问题的同时，也遇到各种各样的问题，包括稳定性和可控性等。

算法治理面临不少挑战

“算法缺陷导致智能系统存在崩溃隐患，如自动驾驶事故、金融市场闪崩、地区大停电等等。”中国科学院计算技术研究所副所长程学旗提到算法治理面临着不少的挑战，算法滥用导致社会不公和群体极化，危害社会稳定，如派单算法霸凌、算法诱使沉迷、大数据杀熟，推荐算法引发信息茧房和社会偏见等。他认为，算法治理要拥抱“技术治理”主义，要利用风险监测系统开展算法风险自动巡查，构建算法评估体系支撑，常态化算法安全评估。加快建设和出台系列算法合规标准，形成监测、研判、评估的算法治理闭环体系，各方共同协作，构建一个良性的可持续发展的生态。

要大力推进发展更要全流程管理

人民网董事长、总裁，传播内容认知全国重点实验室主任叶蓁蓁表示，未来只能用AI治理AI，统筹发展与安全，首先要大力推进发展，不发展或者发展慢，将是最大的不安全。

新华社媒体融合生产技术与系统国家重点实验室常务副主任贺大为表示，从算法的训练模型，以及它的应用，全流程都应该进行相应的管理。“而这个管理的过程，应该是各部门乃至全社会形成合力。”