GPT-4o's einige Eigenschaften und potenzielle Probleme wurden aufgedeckt:
-
Fähigkeit zur Stimmimitation:
- Kann die Sprechweise, Gewohnheiten und Akzente der Benutzer erlernen und nachahmen
- OpenAI hat die Arten von Stimmen, die GPT-4o erzeugen kann, eingeschränkt und ein Erkennungssystem eingerichtet
-
Sprechererkennung:
- Kann Sprecher anhand von Audioaufnahmen identifizieren, insbesondere Prominente
- OpenAI hat ein Nachtraining durchgeführt, um die Fähigkeit zur Ablehnung der Erkennung zu verbessern
-
Unterschiedliche Leistung für verschiedene Benutzer:
- Bedenken hinsichtlich inkonsistenter Leistung des Modells für Benutzer mit unterschiedlichen Akzenten
- OpenAI hat Tests durchgeführt und keine signifikanten Unterschiede festgestellt
-
Pornografische und gewalttätige Inhalte:
- Mögliche Erzeugung unangemessener Äußerungen
- OpenAI hat Überprüfungs- und Beschränkungsmaßnahmen verstärkt
-
Unbegründete Schlussfolgerungen und Zuschreibung sensibler Eigenschaften:
- Mögliche subjektive Vermutungen über Sprecher
- OpenAI hat ein Nachtraining durchgeführt, um das Modell anzuweisen, solche Fragen abzulehnen oder vorsichtig zu beantworten
-
Generierung urheberrechtlich geschützter Inhalte:
- Aktualisierte Filter zur Behandlung von Audio-Dialogen
- Training des Modells zur Ablehnung der Generierung urheberrechtlich geschützter Inhalte
-
Vermenschlichende Bindung:
- Benutzer könnten emotionale Verbindungen zu GPT-4o entwickeln
- OpenAI ist sich dieser potenziellen Auswirkung bewusst
OpenAI bewertet das Gesamtrisiko von GPT-4o als moderat und hat mehrere Maßnahmen ergriffen, um potenzielle Probleme zu mindern. Sie betonen, dass sie die Sicherheit des Modells weiterhin überwachen und verbessern werden.