大規模言語モデルは、しばしば事務的な文章を得意とする「文系学生」のように見なされますが、これらの高度に規則化された文章では、誤りは許されません。大規模言語モデルでは、事実と異なる内容や架空の内容を生成するなどの「幻覚」問題がよく発生し、これは現在、エンジニアやユーザーにとって最も頭を悩ませる問題となっています。
しかし、一部の人々は「幻覚」と「生成」は表裏一体であり、機械も創造していることを意味すると考えています。昨年の江蘇省青年科学普及SF作品発表会では、AIによって完全に生成された短編小説が2等賞を獲得しました。同年、GenWorldは2回の「中国語AI短編小説コンテスト」を開催し、参加作品はすべてAIによって生成されることを要求しました。
AIだけで全文を生成することは容易ではなく、参加者たちはチャットボットの出力を制御するためにさまざまな革新的な方法を採用しました。しかし、現在のAIはストーリー作成においてまだ大きな制限があります。ある研究によると、プロの作家は創造性、文学性、スタイルの面でより高いスコアを獲得しています。
SF作家の慕明は、AI執筆ツールはむしろ「パートナー」のようなものであり、その最大の効果は毎日の作業を促すことだと考えています。彼女は、AIが文学性の高い作品に対して能力が弱いことを指摘し、特に長編小説の全体構造、プロット、キャラクターの性格変化などの面では、人間の作家がまだ優れていると述べています。
慕明は、Transformerアーキテクチャ自体に問題があると考えており、例えばattention token lengthが十分に長くないことを指摘しています。さらに、モデルが使用するコーパスも影響を与えますが、大量のコーパスを使用しているため、特定のコーパスがその性能にどの程度影響を与えているかを評価するのは難しいと述べています。
結局のところ、大規模モデルは全く異なる「執筆アプローチ」を使用しています。慕明は2016年から小説を書き始め、最初は好きな作家のテクニックを学ぶことで自身のスキルを向上させました。彼女は、AIが現在、人間の作家の創作プロセスと思考方法を完全に模倣することはまだ難しいと考えています。