Quantcast
Channel: 知乎日报
Viewing all articles
Browse latest Browse all 20608

新闻说「 AI 通过脸部识别技术辨别罪犯」,有那么神吗?

$
0
0

相关链接:上海交大研发人工智能:通过脸部识别技术辨别罪犯

王赟 Maigo,把收藏夹公开了,欢迎关注

我看过 Xiaolin Wu 和 Xi Zhang 在 arXiv 上发的论文。这篇论文的主要贡献有:

  • 证明了罪犯和非罪犯的面相的分布不同,在一定程度上可以区分;
  • 指出了罪犯和非罪犯的面相分布中差异较大的一些特征;
  • 刻画了罪犯和非罪犯的面相分布特点:罪犯面相的差异度较大,分布在外围。

这些结论当然要谨慎对待,但如果确实能通过实验的检验,那么是可信的,也算是填补了一块知识的空缺。

但是,这篇文章的结论并不代表可以仅由面相推断一个人是否是罪犯,哪怕仅仅是推断一个人犯罪可能性的高低。原因有两点:

  • 在论文使用的数据集(730 名罪犯,1126 名非罪犯)上,哪怕是性能最好的 CNN 分类器,在达到 90% 的检出率(true positive rate)时,仍有 10% 的误报率(false positive rate)。这意味着有 73 名罪犯被漏掉,有 113 名非罪犯被冤枉。对于「审判」这种人命关天的事情来说,这样的分类结果显然不足以成为唯一依据,甚至都不能成为主要依据。
  • 在一般人群中,罪犯的比例比上面的数据集低得多。此时,哪怕一点点误报率都是不能忽略的。一个典型的类似例子是人群中的艾滋病筛查。由于误报率大于人群中艾滋病的发病率,即使检查得到了阳性的结果,真正是艾滋病患者的概率依然很低,需要复查。如果简单地把论文中的分类器应用于大众,那么绝大多数的阳性结果都将是误报。

需要警惕的是,媒体在宣传该项研究的过程中,容易对结论进行夸张,误导大众;如果后果严重,可能在大众中产生对特定面相的歧视。这是必须避免的。


Viewing all articles
Browse latest Browse all 20608

Trending Articles