2015 年,新闻调查网 The Intercept 披露,美国国安局一项名为“天网”(SkyNet)的计划可以基于个人所处位置、拨打电话的地点、时间及去往相关地方的频率分析和寻找恐怖主义分子。
1 年前,美国媒体曝出美国国家安全局(NSA)将电影《终结者》中的“天网”(SKYNET)计划搬进现实,这一代号为“天网”的高端秘密项目并不是电影中消灭人类的系统,而是利用元数据来确认恐怖分子。
不过,现实世界的“天网”或面临着错杀无辜的风险。美国知名科技博客媒体 Ars Technica网站 2 月 16 日报道称,“天网”计划因其算法有误,或已导致数千名无辜的巴基斯坦 人因被视为恐怖分子,甚至因此遭错杀。
谁是恐怖分子?用大数据来判断
2015 年,新闻调查网 The Intercept 揭秘了 NSA 的“天网”计划,该计划的主要消息依据是“棱镜门”揭秘者爱德华·斯诺登(Edward Snowden)此前披露的一系列文件。
“天网”计划于 2007 年开始研发,其来源于 5 个云研究组织的共同努力,其中主要包括 3 个 NSA 的下属组织——信号情报局、研究局以及技术局。该计划的合作伙伴还包括麻省理工学院林肯实验室以及哈佛大学,来自旅行和流动分析中心(TMAC)的团队也参与了该计划。
“天网” 通过一些设定好的逻辑来识别和跟踪恐怖分子,依赖地理空间、地理时间、生活模式以及旅行分析对大规模的 DNR(拨叫号码识别)数据进行分析,以识别出可疑活动。在一个有记录的案件中,NSA 的这一计划利用某国境内手机用户的通讯记录来追踪其活动,一旦发现这些行动与恐怖嫌犯的相匹配,就会升起一面小旗帜,被列为“怀疑对象”。“天网”系统还能够查清那个人在到达每个目的地之后给谁打过电话,并密切关注其可疑行动,例如频繁交换 SIM 卡、只接收来电、大规模删除短信或在每周固定时间外出等。
“天网”算法有误,或致无辜者被错杀
一份名为《天网:基于机器学习的情报检测》的文档指出,NSA 使用来自巴基斯坦 GSM(全球移动通信系统)运营商的 5500 多万手机通话记录的元数据来测试系统。 据美国新闻调查局消息,自 2004 年起,约有 2500-4000 人因被美国政府认定为恐怖分子而遭杀害,其中一部分于 2011-2012 年被杀害的恐怖分子是由“天网”判定的。
Ars Technica 报道称,由于“天网”算法有误,数千名无辜的巴基斯坦人可能莫名其妙地成为“恐怖分子”,甚至可能因此丧生。
美国人权数据分析小组主任帕特里克·巴尔(Patrick Ball)狠批该项目的元数据算法是“彻头彻尾的胡说八道”:“这一计划非常可笑,‘天网’计划中的元数据有漏洞,其算法并不科学。”
分析称,“天网”中的元数据(比如位置信息、通话记录等等)准确性不高,可能目标人士实际所处的位置已经变化了,这些数据仅仅只能用作参考。所有元数据的信息拼凑出某个怀疑对象的日常生活状态可能与实际状况不符。
此前,半岛电视台记者艾哈迈德·穆法克·扎伊丹(Ahmad Muaffaq Zaidan)被列为重要的恐怖分子。他是半岛电视台驻伊斯兰堡分社主任,曾经采访过基地组织、塔利班组织的多数要员,因此掌握了大量恐怖组织的重要信息。由于时常与恐怖组织打交道,艾哈迈德的行动被“天网”计划列为恐怖分子,而艾哈迈德本人断然否认了这一指控,并愤慨地表示:“通过通讯录、通话记录、位置信息就断定我或者其他记者是‘恐怖分子’,这是对事实的荒谬曲解,完全是对个人隐私的侵犯!”
来源:澎湃国际>>郑怡雯/记者>>美媒:美“天网”算法有误,数千人或被错当恐怖分子甚至错杀
除特别注明外,本站所有文章均为交通人原创,转载请注明出处来自http://www.hijtr.com/imperfect-skynet/
暂无评论