FTC昨日宣布的和解协议显示,OkCupid在未告知用户或获得同意的情况下,向面部识别公司Clarifai提供了近300万张用户照片以及位置数据。这款约会应用的母公司Match Group同意对数据共享施加永久限制,但无需为2014年的事件支付任何经济处罚。Clarifai向"军事、民用、情报和政府"客户提供AI服务,在接收这些数据时没有任何合同限制其使用方式。

这个案例揭露了AI训练数据如何通过用户从未见过的幕后交易从消费者应用中获取。虽然面部识别公司公开谈论AI伦理,但它们正在悄悄地从约会档案、社交媒体和其他个人来源构建数据集。FTC发现OkCupid直接违反了自己的隐私政策,该政策承诺不会在没有用户通知和退出选项的情况下共享个人信息。特别令人担忧的是:OkCupid"采取了广泛措施来隐瞒"数据共享,并试图阻挠FTC调查。

零罚款的和解反映了特朗普政府较为宽松的执法方式——两名民主党FTC委员都被解雇,使共和党人完全控制局面。这开创了一个令人不安的先例,公司可以秘密向AI公司提供用户数据,多年后被发现,然后只需承诺不再这样做就能脱身。对于使用面部识别API进行开发的开发者来说,这突显了主要供应商训练数据来源的模糊性。

如果您正在使用Clarifai或类似服务,请对数据来源提出尖锐问题。为您的AI模型提供动力的照片可能来自约会应用、社交网络或其他用户从未同意AI训练的消费者服务。FTC在这里的软弱回应基本上为这种做法开绿灯,只要公司最终承诺更加透明。