欢迎来到中国家政联盟网站!
400-101-2017 
China Housekeeping Alliance
中国家政联盟
新闻中心
NEWS CENTER
美国开始用 AI 评估保姆了 到底靠不靠谱
来源: | 作者:pmoa34799 | 发布时间: 296天前 | 159 次浏览 | 分享到:

AI渗透人们生活的方方面面已是必然,随着越来越多应用场景落地,帮助人们改善生活也将无微不至。如今,为了帮助新晋爸妈群体,美国一家名为PredictimAI公司开发了一款同名APP,提供评估保姆人格的在线服务。不过,仅过了一个月的时间,这款APP就被用户和媒体吐槽不靠谱,但也让人们看到了未来的想象空间。


“AI判断你有虐童倾向,所以你找不到工作

Predictim基于AI评估一名保姆的可靠性,主要参与新晋爸妈寻找保姆的环节。宝爸宝妈们首先联系到一名潜在的人选,获得保姆的姓名和电子邮件,获得对方同意获取社交媒体账户的访问权限,即可以在平台上进行评估。如果保姆拒绝,则会收到一封电子邮件,提示无法被雇佣。

既然不评不行,那么进入到这一评估流程后,这名保姆的隐私就会交给AI过滤。Predictim会扫描这名候选人的FacebookTwitter Instagram 等社交平台上近几年的发帖和图片,在几分钟之内生成评估报告。而这份报告包含个性特征、行为特征、擅长领域等,重点提供是否有霸凌、态度不佳、不尊重人等倾向,用以反应一名保姆的就职风险。从无风险的绿色到非常危险的红色,一名潜在的候选人就这样被AI打上了标签,并且结果只呈献给孩子的父母,不会告诉保姆本人。

爱没有界限,AI有些问题

保姆这一职业虽然属于服务业,但是对于新晋爸妈来说是类似于家人的存在。靠谱的保姆不仅能解放家长,还能起到影响孩子的良好作用,不靠谱的保姆却屡屡见诸报端,虐童、纵火,骇人听闻。

虽然保姆的可靠性至关重要,但是显然Predictim的评估规则有些简单粗暴。所以首先被吐槽的就是它的片面性。

FacebookTwitter Instagram APP对于美国人来说是主流的线上社交平台,虽然能够一定程度上体现一个人的个性,但恰恰因为是用户发声的出口,所以涉及到的话题非常丰富。

值得注意的是,美国保姆市场和中国不尽相同,并不是中年人主导,而是大多是年轻人,因此社交软件才被Predictim作为主要的检测对象。

但是,如果用户引用了电影台词或歌曲歌词、玩了什么网络上的梗、在评论时用了反话(类似微博加狗头的做法)等,AI是否能识别并最终正确反映一个人的性格?


对于这一问题,目前的AI水平还不能让人那么放心,即便达到了人类的理解水平,也有网友表示:电脑没有感情,又怎能评判所有事?

当然,即便AI拥有感情,也只是在线上,而一个人的真正画像还包括与他人的接触,也就是占有更大比重的线下。

除了评判标准片面、智能水平不可靠,Predictim在上线的短短一个月后,还迎来了不小的打击。今年(1127)消息,Facebook认为Predictim违反了其使用个人数据的政策,撤销了大部分来自Predictim的访问权限,正在调查是否应该将其完全屏蔽,而Twitter则已经完全屏蔽。

Twitter发言人通过电子邮件向媒体回应称,我们严格禁止将Twitter数据和api用于监控目的,包括进行背景调查。当我们意识到Predictim的服务时,我们进行了调查,并撤销了他们对Twitter公共api的访问。

Predictim通过过滤包含毒品暴力等关键词或相关话题的发帖作为主要的评估维度,但作为一家今年6月份才成立的创业公司,通过并未被认可、也不可证伪的单一算法就决定一个人的就业,批评人士表示不可信任。

虽然Predictim也有人工复检的机制,被标记为有问题的帖子会被手动查看,以防止出现假阴性,但是初创公司的属性和AI现阶段的局限性都让其无法走出舆论的旋涡。


虽然不靠谱,但是AI的想象空间由此大开

Predictim的发展虽然坎坷,但是让AI评估人类这件事本身必将成为趋势。

首先,AI在企业招聘、人力资源管理过程中已经开始发挥作用。

除了招聘软件自动筛选简历为HR释放了不少精力,IBM公司还用AI判定员工绩效。据IBM人力资源部统计,与人类的评估结果对比来看,Watson的准确率达到了96%,在HR可以接受的范围内,因此已经开始试用了。

国内也已经出现了仟寻MoSeekeriPin等入局AI招聘的创企,甚至部分企业在面试过程中加入了AI评定环节。

目前在招聘环节使用AI还有一定局限,即便是HR本人面试也难以在短短一面之缘下完整地了解求职者,不过未来“AI验人有着巨大的想象空间。


试想,此前多次在网约车平台爆出的刑事案件中,犯罪分子因为网贷逾期而产生反社会心里、走上犯罪道路,半年向57个网贷平台申请过资金,这样完全在线上的行为竟然没有被提前感知。

另有例如,某网贷平台在放款环节需要用户填写担保联系人,但却不核实该联系人与用户的社会关系,在逾期后却电话联系该联系人催款,简直让人无法理解其逻辑。

如果形成了以每一个人实名用户为中心的数据平台,AI的作用就能真正惠及大众。当AI检测到用户频繁的社交平台不良言论及时干预,扶正的就是一个本可以健康阳光成长的网民;AI检测到用户收入水平偏低却频繁在二手平台出售电子产品及时干预,预防的就是一个潜在的犯罪分子;AI检测到用户出现频繁网贷行为的失信倾向并及时干预,挽救的就是一个活生生的生命。

我们反对片面地评判他人,无论是人还是AI,但我们期待未来AI可以做得更好。