Emma McGowan 2024年2月14日

Mozilla最近的一份报告指出，浪漫AI聊天机器人的迅速崛起带来了一系列隐私问题。

自1960年代以来，AI浪漫伴侣就在流行文化中成为一种现象。从《我的生活洋娃娃》中全身的安卓机器人“Rhoda Miller”，到2013年《她》中斯嘉丽约翰逊所扮演的无形声音，我们已经集体梦想著人工智慧可以满足我们的所有情感需求。如今，随著生成性AI的发展和发布，这一梦想似乎终于要成为现实。

但这真的是梦想吗？还是我们正在无意间走进隐私的噩梦？这正是Mozilla研究团队在其最近的隐私无法包容的浪漫AI聊天机器人特别报告中所关注的问题。

研究结果令人震惊，11个测试的聊天机器人中有10个未达到Mozilla最低安全标准。这意味著，除了其他问题外，它们不要求用户创建强密码或提供处理任何安全漏洞的方法。随著Google Play商店中下载量已超过1亿，及OpenAI的应用商店最近迎来了大量浪漫聊天机器人，这个庞大的问题只会越来越大。

然而，这份报告不仅仅是关于数字；还涉及这些发现的主要潜在隐私影响。以Replika AI为例。根据Mozilla的说法，人们在这个应用上与他们的“AI挚爱”分享了最私密的想法、感受、照片和视频，而该应用不仅记录这些信息，还可能将其出售给数据经纪人。它还允许用户创建像“111111”这样的弱密码账户，将所有这些敏感信息置于黑客风险之中。

Calder表示，虽然这些隐私和安全缺陷已经“令人毛骨悚然”，但一些机器人还声称可以帮助客户解决心理健康问题。她以Romantic AI为例，该公司的条款和条件中明确表示：

“Romantic AI既不是医疗保健或医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有你的医生、心理治疗师或任何其他专家才能做到这一点。Romantic AI不对服务提供治疗性、医疗或其他专业帮助作出任何声明、陈述、保证或担保。”

然而，他们的网站却说“Romantic AI在此维护你的心理健康”。虽然我们并没有数据显示有多少人阅读了条款和条件与多少人查看了网站，但可以肯定的是，更多人获得的网站信息要比免责声明多。

在心理健康宣称和客户自愿与他们的数字“灵魂伴侣”分享个人和私密信息之间，Calder担心这些机器人可能会轻易操纵人们做出他们本不会做的事情。

“什么能阻止坏人创建聊天机器人来了解他们的灵魂伴侣，然后利用这种关系操纵人们做可怕的事情、接受令人恐惧的意识形态，或者伤害自己或他人？”Calder说，“这就是为什么我们迫切需要在这些AI应用中提高透明度和用户控制。”

因此，虽然AI聊天机器人承诺提供陪伴，但我们仍未达到《她》的那个水平：当前的现状揭示了一个残酷的现实，即用户隐私是其代价。是时候要求用户、开发者和政策制定者在AI关系领域推动透明、安全和对个人边界的尊重了。只有这样，我们才能在不妨碍自己数字身份的前提下，安全地探索这些数字伴侣的潜力。