美国搞了部《AI权利法案》 可惜管不到科技巨头

　　极客网·人工智能10月10日去年美国白宫科技政策办公室(简称OSTP)公开表示，应该出台一份面向算法时代的权利法案。OSTP一位官员称，来自AI的伤害正在影响边缘化社区，为了保护民众，避开歧视性、无效性AI的伤害，政府应该出台新规定。 　　最近，OSTP发布《AI权利法案》蓝图。之前OSTP曾向微软、Palantir、人权组织、普通民众征集意见，然后才发布该蓝图。蓝图列出5项基本原则：用户可以控制数据的使用，可以选择退出自动化决策流程，可以避开无效、不安全算法的影响，当AI做出与用户有关的决策时用户可以知道，可以避免被不公平算法歧视对待。 　　OSTP官员Alondra Nelson接受采访时说：“科技来来去去，但基本的自由、人权、机会、接入应该保持开放，这些需要政府来保证。”现在美国人什么都往自由人权靠，听听就好，毕竟什么隐私、人权很多时候有利富人，美国的一切也是优待富人的。 　　不过需要注意的是，美国有一份《人权法案》。AI版本与《人权法案》不同，它没有强力执法部门，它只是一份没有约束力的白皮书。

　　《AI权利法案》主要瞄准的是美国联邦政府。政府机构如何部署AI，法案可以管；法案可以协助父母、工人、议员、设计师提出与AI系统有关的尖锐问题。 　　还有一点值得警惕：机器学习、AI算法如何部署，大型科技公司有很大的话语权，《AI权利法案》管不了它们。 　　威斯康星大学研究人员Annette Zimmermann认为，《AI权利法案》的5个原则让人印象深刻，它也许可以推动AI政策和法规朝着正确方向演进。 　　在某些场合，如果想纠正不公正并不需要AI，这是常识，但《AI权利法案》没有考虑这点。Annette Zimmermann指出，想保护用户，最好的办法当然是不部署AI，作为一部面向AI的法案，不能不考虑这点。他还认为，应该考虑强制性执法框架，让那些设计、部署有害AI的企业和个人负上责任。 　　如何控制AI伤害？可以用禁令，但《AI权利法案》并没有提到禁令问题。一位官员回应称，法案的重点是让民众远离损害权利和机会的威胁性技术，并不是禁用任何类型的技术。 　　总体来说，《AI权利法案》做了三件事，也有三件事没有做，先说做了的三件事： 　　——提出有意义的原则。 　　——有了原则如何执行？法案的思考是以机构为引导，以部门为焦点，关注特定部门和特点应用。 　　——对于AI系统的采购、设计、开发与部署，蓝图关注它们的组织元素，架构是怎样的，有什么激励，设计开发系统的人与系统是如何互动的，这些组织元素容易被忽略。 　　有三件事是法案没有做的： 　　——缺少有约束力的法律规范。 　　——没有覆盖到所有重要政府部门，有很多缺失，比如教育机会的获得、工人监督、执法部门。执法部门会用到很多算法工具，比如面部识别，它们如何自愿约束自己，这点没有说。 　　——如何在真实世界测试。 　　不过有观点认为，虽然《AI权利法案》没有约束力，主要面向联邦机构，不过美国的企业还是需要注意的。法案的核心是在设计阶段追求公平、保护隐私，初衷还是好的，具体效果如何还有待观望。（小刀）