La presencia generalizada de agentes de IA en Internet ciertamente presenta algunos desafíos, como cómo distinguir entre humanos reales e IA, y cómo proteger la privacidad. Para abordar esto, 25 instituciones, incluyendo OpenAI, Microsoft y MIT, han propuesto conjuntamente el concepto de "Credenciales de Personalidad" (Personhood Credentials, PHC), con el objetivo de resolver estos problemas.
Las principales características de PHC incluyen:
-
Puede probar que el usuario es una persona real y no una IA, sin revelar información personal específica.
-
Basado en "verificación del mundo real" y "tecnología de encriptación segura", la IA no puede falsificarlo.
-
Puede ser emitido por instituciones confiables como los gobiernos.
-
Puede ser un sistema local o global, no necesariamente dependiente de tecnología biométrica.
La necesidad de PHC se debe a:
-
La IA muestra indistinguibilidad y escalabilidad en línea, lo que lleva a un crecimiento continuo del engaño impulsado por IA.
-
La IA puede crear cuentas en redes sociales, publicar contenido falso y hacerse pasar por humanos, lo que conlleva numerosos riesgos.
-
Los métodos tradicionales de verificación humano-máquina (como los CAPTCHA) ya no son suficientes, se necesitan nuevas soluciones.
-
Es necesario encontrar un equilibrio entre prevenir el engaño de la IA y proteger la privacidad del usuario.
La propuesta de PHC ofrece un nuevo enfoque para resolver estos problemas. Puede probar eficazmente la identidad real del usuario sin revelar información personal. Esto es significativo para mantener la seguridad en línea, prevenir el fraude y proteger la privacidad.