AI 评估保姆人格靠谱吗？Predictim APP 引发争议

xinxi1368

人工智能渗透到人们生活的方方面面是必然的，随着越来越多的应用场景落地，它将帮助人们无微不至地改善生活。如今，为了帮助新晋父母，一家名为“保姆”的美国人工智能公司开发了一款同名软件，提供在线评估保姆性格的服务。然而，仅仅一个月后，这款应用就被用户和媒体批评为不可靠，但也让人们看到了未来的曙光。

“AI判定你有虐待儿童倾向，所以你找不到工作”

它基于人工智能评估保姆的可靠性，主要参与新父母寻找保姆的过程。父母首先联系潜在候选人，获取保姆的姓名和电子邮件，并获得对方访问社交媒体账户的同意。如果保姆拒绝，她将收到一封电子邮件，表明她无法被雇用。

由于需要对候选人进行评估，保姆进入评估环节后，其隐私会被AI过滤，它会扫描候选人近几年在脸书、、等社交平台上的帖子和图片，并在几分钟到十分钟内生成评估报告，这份报告包括性格特征、行为特点、专业领域等，重点关注是否有欺凌倾向、态度恶劣、不尊重他人等，以反映保姆的就业风险。一个潜在候选人被AI打上从有风险的绿色到非常危险的红色的标签，而结果只呈现给孩子的父母，而不会呈现给保姆本人。

爱情无国界，但人工智能存在一些问题

保姆这个职业虽然属于服务行业，但对新手父母来说，就像是家人一样，一个靠谱的保姆，不仅能解放父母，还能对孩子产生积极的影响。报纸上报道的虐童、纵火事件，让人触目惊心。

虽然保姆的可靠性至关重要，但评价标准明显有些简单粗暴，因此最先被吐槽的就是其片面性。

、、等应用程序是美国人主流的网络社交平台，虽然一定程度上能反映出一个人的性格，但正因为是用户表达观点的渠道，所以涵盖的话题范围才非常广泛。

值得注意的是，美国保姆市场与中国不同，并非以中年人为主，而是以年轻人居多，因此以社交软件作为主要测试对象。

然而，如果用户引用电影台词或歌词、使用网络表情包或在评论中使用讽刺（类似于在微博上加狗头的做法），AI能否识别并最终正确反映一个人的性格？

对于这个问题，目前人工智能的水平并不能让人放心，即便达到了人类理解的水平，也有网友表示：“计算机没有感情，又怎么能判断一切呢？”

当然，AI即便有情感，也只是在线上，而人的真实画像还包括与他人的接触，而这在线下占比更大。

除了评价标准片面、情报水平不可靠之外，上线仅一个月就遭遇重创，今年11月27日被曝违反个人信息使用政策，被吊销执照，部分访问权限正在接受调查是否全面封禁，部分访问权限已经全面封禁。

一位发言人在一封电子邮件中告诉 CNBC：“我们严格禁止将数据和 API 用于监视目的，包括进行背景调查。当我们意识到这项服务时，我们进行了调查并撤销了他们对公共 API 的访问权限。”

该公司以过滤包含“毒品”、“暴力”等关键词或相关主题的帖子作为主要评估维度。但作为一家今年6月才成立的初创公司，它不可能使用单一的、无法识别、无法伪造的算法。批评者表示，政府无法信任政府来决定一个人的就业。

虽然有人工审核机制，被标记为问题的帖子也会被人工审核，防止漏报，但初创公司的性质，以及AI当下的局限性，让它无法逃脱舆论的漩涡。

虽然不可靠，但却为人工智能开辟了很大的想象空间

虽然发展过程坎坷，但让AI评价人类必将成为一种趋势。

首先，人工智能开始在企业招聘、人力资源管理等方面发挥作用。

除了招聘软件自动筛选简历，释放大量HR精力外，IBM还利用AI评判员工绩效，据IBM人力资源部统计，与人工评估结果相比，AI的准确率高达96%，在可接受范围内，因此已经开始试用。

国内目前已有谦寻、爱聘等创业公司进入AI招聘市场，部分企业甚至将AI测评加入到面试环节。

目前，AI在招聘环节的运用还存在一定局限性，即便HR亲自面试，也难以在一次见面中全面了解应聘者，但未来“AI验证”的想象空间巨大。

试想，此前多次在网约车平台上发生的犯罪案件，犯罪分子都是因为网贷逾期而产生反社会心理，走上犯罪道路，半年内向57家网贷平台申请资金，这一行为事先并未被察觉。

再比如，某网贷平台在借款过程中要求用户填写担保人联系人，但却不核实该联系人与用户之间的社交关系，在逾期还款后，平台却致电该联系人催款，其逻辑简直让人无法理解。

如果形成以实名用户为中心的数据平台，AI的作用才能真正惠及大众。当AI检测到用户在社交平台频繁发表不良评论时，及时干预，纠正原本可以健康成长的网民现状；当AI检测到用户收入较低却频繁在二手平台售卖电子产品时，及时干预可以阻止一个潜在的犯罪分子；当AI检测到用户通过频繁的网贷行为有失去信任的倾向时，及时干预可以挽救一条鲜活的生命。

我们反对对他人进行片面的评判，无论他们是人类还是人工智能，但我们期望人工智能在未来能做得更好。

家政检查——安全家政好帮手

家政查是一款用于查询家政服务人员诚信度的工具。无论是月嫂、保姆、育婴员还是钟点工，你都可以使用家政查来安全地查询他们的身份。这其中包括服务人员的基本信息、健康状况、资质证书、诚信积分、简历报告、雇主评价，甚至有无失信举报和犯罪记录等多个维度。

播放查看家政综合功能及产品介绍

消除服务风险，保障家庭安全

家政查是专门面向全国家政服务人员的信息查询平台，秉承“消除服务风险，保障家庭安全”的宗旨服务于全体用户，家政服务人员档案信息全面、真实可靠、充分公开公正，为全行业打造绿色家政。

●●

●●

●●

●●

●●

●●

の

/ 持续更新，敬请期待 /