
谷歌与美国国防部的AI、无人机合作计划遭内部反弹,首席执行官皮蔡出面宣布AI原则,保证不会将AI用于武器及监视系统。(法新)
科技巨头谷歌(Google)日前传出将参与美国国防部Maven计划(Project Maven),将人工智能(AI)用于无人机攻击,增进其目标判别准确度,此后谷歌内部也出现反弹声浪,有近4千名员工集体连署取消该计划。而《CNBC》报导,首席执行官皮蔡(Sundar Pichai)发布了几项原则,保证不会将AI用于武器及监视系统。
谷歌内部员工抗议Maven计划有违企业愿景,高层也承诺会拟订AI相关政策。皮蔡在声明中表示AI将不会用于以下发展:
1. 潜在可能造成整体损失的技术。我们只有在益处远超过风险时才会进行,且会加入适当安全规范。
2. 主要目的为造成人身伤害的武器或技术。
3. 不当搜集、使用资讯且国际公认违反规范的监控系统。
4. 违反普遍原则、国际法、人权的技术。
谷歌云端业务负责人格林(Diane Greene)则在本月1日表示,Maven计划至明年3月后将不再续约。而皮蔡也在声明中表示与国防部依然会在其他方面合作。“我们要澄清的是,并没有开发用于武器的AI,也还是会跟政府及军队合作,包括网络安全、军队培训及招募、退伍军人医疗、搜救行动等。”
美国防部前副部长沃克(Bob Work)则批评,谷歌退出合约的决定可能使美国落后那些积极发展AI战争科技的国家。
