La présence généralisée des agents d'IA sur Internet apporte en effet certains défis, comme la distinction entre les humains et l'IA, ou la protection de la vie privée. Pour y répondre, OpenAI, Microsoft, MIT et 25 autres institutions ont conjointement proposé le concept de "Credentials de Personnalité" (Personhood Credentials, PHC), visant à résoudre ces problèmes.
Les principales caractéristiques des PHC incluent :
-
Ils peuvent prouver qu'un utilisateur est humain et non une IA, sans divulguer d'informations personnelles spécifiques.
-
Basés sur une "vérification du monde réel" et une "technologie de cryptage sécurisée", ils ne peuvent pas être falsifiés par l'IA.
-
Ils peuvent être délivrés par des institutions de confiance comme les gouvernements.
-
Ils peuvent être des systèmes locaux ou globaux, ne dépendant pas nécessairement de la technologie biométrique.
La nécessité des PHC réside dans :
-
L'indiscernabilité et l'évolutivité de l'IA en ligne, entraînant une croissance continue des comportements trompeurs basés sur l'IA.
-
La capacité de l'IA à créer des comptes sur les réseaux sociaux, publier de faux contenus, se faire passer pour des humains, apportant de nombreux risques.
-
L'insuffisance des méthodes traditionnelles de vérification homme-machine (comme les CAPTCHA), nécessitant de nouvelles solutions.
-
Le besoin de trouver un équilibre entre la prévention de la tromperie par l'IA et la protection de la vie privée des utilisateurs.
La proposition des PHC offre une nouvelle approche pour résoudre ces problèmes. Elle peut efficacement prouver l'identité réelle des utilisateurs sans divulguer d'informations personnelles. Cela a une importance significative pour maintenir la sécurité en ligne, prévenir la fraude et protéger la vie privée.