AI泄密者遭封杀：25家机构推新技术识别AI机器人

AI智能体在网络上的广泛存在确实带来了一些挑战,比如如何辨别真人和AI、如何保护隐私等。为此,OpenAI、微软、MIT等25个机构联合提出了"人格凭证"(Personhood Credentials, PHC)的概念,旨在解决这些问题。

PHC的主要特点包括:

1. 可以证明用户是真人而非AI,但不会泄露具体的个人信息。

2. 基于"现实世界的验证"和"安全的加密技术",AI无法伪造。

3. 可由政府等可信机构颁发。

4. 可以是本地或全球系统,不一定依赖生物识别技术。

PHC的必要性在于:

1. AI在网上表现出不可区分性和可扩展性,使得AI驱动的欺骗行为持续增长。

2. AI可以在社交网络上创建账户、发布虚假内容、伪装成人类,带来诸多风险。

3. 传统的人机验证方式(如验证码)已经不够用,需要新的解决方案。

4. 需要在防止AI欺骗和保护用户隐私之间找到平衡。

PHC的提出为解决这些问题提供了新的思路。它可以在不泄露个人信息的前提下,有效证明用户的真实身份。这对于维护网络安全、防范欺诈、保护隐私等方面都具有重要意义。

[本文内容由AI生成,未经人工编辑,如有纰漏请谅解]