聚焦中关村论坛|清华大学薛澜:人工智能安全上路,首先装好“刹车”

更新时间:2024-04-27 19:57:02作者:无忧百科

聚焦中关村论坛|清华大学薛澜:人工智能安全上路,首先装好“刹车”

红星资本局4月27日消息,“人工智能必须装上‘刹车’再上路。”清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜在26日召开的在2024中关村论坛年会——数据安全治理与发展论坛上表示,“刹车”指的是针对技术风险的治理体系,生成式人工智能的使用过程中,需要防止一些滥用、误用和恶用的行为。

会后薛澜接受媒体采访时表示,这套治理体系分为三个层次——上层就是国家新一代人工智能治理专业委员会在2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》和2021年发布的《新一代人工智能伦理规范》,不论是技术开发商、技术应用商还是社会公民都应当遵守的一些基础原则。中层就是针对人工智能具体领域的具体法律法规,比如2023年发布的《生成式人工智能服务管理暂行办法》等。下层就是鼓励企业加强内部机制建设,成立伦理委员会等。


薛澜在论坛

安装好刹车,出台各项法律法规,并非意味着人工智能至此能够安全上路。“我们特别鼓励企业自身加强自己内部的机制建设,这非常关键。另一方面也需要全社会的公众监督。”薛澜说。

各国对人工智能态度各异。调查显示,超70%中国公众是持积极态度的;但在北美和欧洲,持积极态度者不到50%。他指出,总体而言,包括中国在内的许多国家对人工智能态度积极。差异很大程度上源于各国人工智能应用场景的差别。

薛澜认为,今后人工智能技术就像一个操作系统,将嵌入到各种工作平台里,“你可能都感觉不到它的存在,但是你在工作中会更加方便。”

红星新闻记者 王田

编辑 肖子琦