大模型常被視為擅長事務型寫作的「文科生」，但在這些高度規則化的寫作中，錯誤是不被允許的。大語言模型經常出現「幻覺」問題，如與事實不符、憑空生造內容等，這是目前最讓工程師和用戶頭疼的問題。
然而，一些人認為「幻覺」和「生成」是相伴相生的，意味著機器也在創造。去年江蘇省青年科普科幻作品發布會上，一部完全由AI生成的短篇小說獲得二等獎。同年，GenWorld還舉辦了兩屆「中文AI微小說大賽」，要求參賽作品全部由AI生成。
全文依靠AI生成並不容易，選手們採用了各種創新方法來控制chatbot的輸出。然而，目前AI在故事寫作上仍有很大局限。一項研究表明，職業作家在創意、文學性和風格化方面得分更高。
科幻小說家慕明認為，AI寫作工具更像是一個「搭子」，最大作用是督促每天工作。她指出AI在文學性強的作品面前能力較弱，特別是在長篇小說的整體結構、情節和人物性格轉變等方面，人類作家仍然更勝一籌。
慕明認為，Transformer架構本身存在問題，如attention token length不夠長。此外，模型使用的語料也會產生影響，但由於使用了大量語料，很難評估特定語料對其表現的影響程度。
歸根結底，大模型使用的是一套截然不同的「寫作思路」。慕明從2016年開始寫小說，最初通過學習喜歡的作家的技巧來提升自己。她認為AI目前還難以完全模仿人類作家的創作過程和思維方式。
[本文內容經過編輯和重寫，刪除了圖片和版權信息，採用Markdown格式呈現。]