热门资讯网

您现在的位置是:首页 > 新闻 > 正文

新闻

算法自律——智能化时代的创新治理探索

中国日报网2021-11-20新闻16
人工智能是引领新一轮科技变革的颠覆性技术,伴随其向社会各领域的渗透融合,在伦理、安全、隐私、公平等方面,也带来了新的挑战和问题。11月19日,在首届中国网络文明大会数据与算法论坛中,中国网络社会组织联

人工智能是引领新一轮科技变革的颠覆性技术,伴随其向社会各领域的渗透融合,在伦理、安全、隐私、公平等方面,也带来了新的挑战和问题。11月19日,在首届中国网络文明大会数据与算法论坛中,中国网络社会组织联合会发起了《互联网信息服务算法应用自律公约》(以下简称《公约》),旨在加强互联网信息服务行业自律,引导平台及企业担当社会责任,促进算法应用向上向善,强化算法应用示范引领,推动用主流价值导向驾驭“算法”,助力共建算法良好生态。

智能算法使机器拥有了分析、预测、优化甚至决策的能力,智能算法的自主性和决策能力成为智能化变革的核心要素。在加快推进人工智能技术研发和产业应用的同时,需要同步跟进适应智能化变革的制度调整和技术治理。随着数据的积累和算法技术的发展,算法应用已经渗透到人们生活的方方面面,同时也滋生了“过度推荐”“流量造假”“大数据杀熟”及“深度伪造”等损害公众利益、破坏正当竞争、扰乱社会秩序的行为。算法治理跟不上,就会反过来制约技术的应用和发展。

对于算法应用,应该充分重视其技术属性和社会属性并重的特征,树立“负责任创新”的价值观,避免技术创新被引入滥用的歧途。一方面,需要通过政策法规来规范算法技术的应用,保证技术的创新应用和安全可控协调发展。另一方面,也需要通过行业自律等方式规范企业行为,将政策法规精神落到实处。此次发布的《公约》,是互联网信息服务行业落实算法应用治理的积极尝试和探索,有助于企业切实承担互联网信息服务算法治理社会责任,加强互联网信息服务行业自律,推动行业健康有序发展。

《公约》首先强调了合规底线,强调依法依规开展算法应用,加强行业自律,积极践行社会主义核心价值观,尊重社会公序良俗,恪守商业道德。在此基础上,进一步落实主体责任,明确要求相关单位和企业履行算法治理义务,承担算法治理责任;设立算法治理组织机构,持续完善算法治理制度,建立健全算法安全应急管理预案;开展算法伦理审查,开展算法安全风险监测、评估和防控。从治理机制和措施方面,明确了责任和义务,有助于政策的实施。

《公约》中“维护网民权益”“筑牢安全防线”“促进算法公平”等内容,呼应了国家新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》中“促进公平公正”“保护隐私安全”“确保可控可信”等基本伦理规范,并在研发、供应、使用等各个环节提出了相应的管理规范。落实算法应用治理,就必须保障用户的知情权、选择权等合法权益,并保证算法在分析、决策和优化等具体应用任务的公平性,不能基于数据和算法优势对用户不正当地进行差别对待。在安全保障方面,需要防范应用、内容和数据的安全风险,提高算法风险监测、预警和处置能力。

《公约》最后提出,要推动设计研发创新,持续开展算法研发,主动掌握关键核心技术,融入全球科技创新整体格局。对于智能算法的治理问题,不仅要从现有技术角度出发,也要从发展的角度提出前瞻性的预判和要求。这也是张钹院士提出“第三代人工智能”的初衷,希望通过融合第一代知识驱动和第二代数据驱动的人工智能,建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的AI技术。当前以深度学习为代表的人工智能算法,本质上是“黑盒”,在可靠性、可解释性、安全性等方面存在缺陷,发展第三代人工智能技术能够克服深度学习这些缺陷,有利于推动人工智能创新发展。对于算法治理的要求,也会对人工智能技术的创新发展起到有益的促进作用。

作者:特约评论员 朱军(清华大学人工智能研究院基础理论中心主任)

来源:光明网

发表评论

评论列表

  • 这篇文章还没有收到评论,赶紧来抢沙发吧~