阿里集团CTO程立:科技伦理治理委员会要做技术创新的“守门人”

9月2日,在上海举办的世界人工智能大会上,阿里巴巴集团宣布成立科技伦理治理委员会,并引入7位外部顾问委员,强化三方监督。委员会提出“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大科技伦理准则,重点推动算法治理、隐私保护、伦理制度建设等工作,探索相关前沿技术,提升公司整体科技自省和自律的水平。

《阿里集团CTO程立:科技伦理治理委员会要做技术创新的“守门人”》
阿里巴巴首席技术官、阿里集团科技伦理治理委员会主席程立

“科技伦理治理委员会要做技术创新的守门人,以人为本,以社会价值为导向,以伦理道德为边界,构建科技企业社会责任。”阿里巴巴首席技术官、阿里集团科技伦理治理委员会主席程立表示,数字经济时代的科技企业需要谨慎对待自身技术能力及影响力,对科技创新的边界时刻保持警醒。程立说,阿里巴巴成立科技伦理治理委员会,旨在让每一位阿里技术人践行“好科技”的目标,推动公司治理体系升级,促进ESG战略落地。

《阿里集团CTO程立:科技伦理治理委员会要做技术创新的“守门人”》
阿里巴巴科技伦理治理六大准则

委员会主要职责是建立并持续完善阿里巴巴科技伦理治理体系,包括核心准则、伦理规范、审查评估机制等。委员会还将积极推广负责任的创新案例,提升技术人员的伦理意识,促进阿里的技术在可用、可靠、可信、可控的体系中可持续发展。

在治理方法上,委员会将按照分类分级管理、个案专家研判、类案参照治理、不断校验迭代的方式,让更多参与者加入到科技伦理治理中,及时识别风险、进行有效管控,在实践中优化治理,以适应技术发展与外部环境变化。

在行动上,委员会重点着手风险能力建设和技术能力建设。风险能力建设,包括建设算法评估、风险检测、干预机制的全生命周期风险管理流程,以及技术安全性、鲁棒性、公平性、可解释与可干预性等科技伦理审查和治理工具。技术能力建设,包括增加在隐私保护、安全可靠、可信可控等关键方向前沿技术的布局和探索。

据介绍,阿里已经围绕用户隐私保护、算法治理等重点议题展开具体行动。根据《个人信息保护法》的要求,阿里在集团各业务组织设置了专门的个人信息保护负责人,全面贯彻落实“数据采集最小必要原则”、“用户知情和决定权最大化”,以及“全方位安全保障能力最强化”三个方向,来规范全生命周期中的隐私保护和数据安全。比如,今年淘宝推出“隐私号码保护”服务,针对开通服务的用户,在交易过程中,淘宝将全程对消费者的真实手机号码予以隐藏,商家、物流服务商均通过“虚拟号”联系消费者,最大限度保障个人隐私不被泄露。

算法治理方面,阿里积极响应《互联网信息服务推荐管理规定》,制定了一系列管理规范,着重推动算法公平和透明。以商品搜索算法为例,强调加入打散设计,以提升搜索结果的多样性;加强对新商家的扶持,以营造更公平的电商环境。重要算法上线或更新前,都将进行内部评估,确定合规且符合伦理才能上线。

阿里巴巴集团科技伦理治理委员会由阿里巴巴集团首席技术官程立领导,其核心成员分别来自阿里研究院、达摩院、法务合规、阿里人工智能治理与可持续发展研究中心以及相关业务板块,下设多个具体工作小组。同时,委员会还引入了外部视角和监督,聘请七位来自科技、法律、公共管理、哲学等领域的专家组成独立的顾问委员会,为规则制定和伦理审查提供咨询建议,采取多元协同治理机制,实现自律和他律的结合。

“我们希望与越来越多的学界、业界参与者们一起,积极推进科技伦理治理。通过多方协同合作,打造负责任、可持续的科技,建立敏捷和开放的治理机制,探索企业自律、行业共治与监管规范相结合的解决方案。”程立表示。

《阿里集团CTO程立:科技伦理治理委员会要做技术创新的“守门人”》
阿里巴巴科技伦理治理顾问委员会成员

会上,阿里巴巴还联合中国信通院共同发布《人工智能治理与可持续发展实践白皮书》,针对当前人工智能应用中的热点问题,从数据、技术、管理及协同治理等方面,系统性地介绍了阿里在数据安全和隐私保护、消费者权益和公平、未成年人保护等重要方向的行动实践。

《阿里集团CTO程立:科技伦理治理委员会要做技术创新的“守门人”》
《人工智能治理与可持续发展实践白皮书》

点赞

发表评论

邮箱地址不会被公开。 必填项已用*标注