مخاوف من أن يحلّ الذكاء الاصطناعي مكان البشر، فالأمر لم يقتصر على مساعدة في الكتابة أو إنهاء تصميم، بل بات بإمكان الذكاء الاصطناعي أن يقوم بكتابة نص عن بعض الكتاب فقد تمكّن الذكاء الاصطناعي أن يؤلف نصًا مزيفًا وينسبه للكاتبة الأميركية "جين فريدمان" والمؤسسة والمشاركة في "The Hot Sheet" للنشر، وكاتبة عمود في "Publishers Weekly"، بهدف تقليدها.

الأمور بدأت تخرج عن السيطرة. إذ لم يعد الأمر يقتصر على مساعدة في كتابة بحث جامعي أو مساعدة مصمم غرافيك على إنهاء تصميمه أو إعطاء بعض الأفكار للمساعدة في إنهاء مشروع ما؛ بل تعدى ذلك وأصبح بإمكان الذكاء الاصطناعي من كتابة كتب ونشرها على المواقع الشرائية الالكترونية مثل موقع أمازون.

لقد بدأ هذا الأمر عندما أراد أحد الأشخاص من البحث عن كتب للمؤلفة جين فريدمان، وقام بشراء كتاب مزيف عن موقع أمازون. تحتوي الكتب على عناوين مشابهة للموضوعات التي تكتب عنها المؤلفة عادةً، لكن عندما قرأ النص وجد أنّ الأسلوب المتّبع مشابه لها، لكن باستخدام نموذج يمكنه من توليد النص من جديد بهدف تقليدها.

إذا أردنا معرفة السبب، فهذه الكاتبة معروفة، وألفت العديد من الكتب ولديها العديد من الاستشارت حول العمل في الكتابة والنشر، وبطبيعة الحال فإن كل هذه المعلومات متوفرة في الإنترنت. بناء عليه، تمكن الذكاء الاصطناعي من اختراع سيرة صغيرة عن الكاتبة، وضمّنها في الصفحة الافتتاحية للكتاب لكن بأسلوبه الخاص.

لم يقتصر الأمر على نشر الكتاب المزيف على أمازون، بل أيضًا تمّ إدراجه على حساب الكاتبة على موقع Goodreads.

هذا الأمر دفع بـAuthors Guild، (جمعية تُعنى بأمور الكتاب وتقدم خدمات للدفاع عن الملكية) إلى متابعة الأمر، بهدف الحد من انتشار الكتب المزيفة المنشأة عبر استخدام الذكاء الاصطناعي.  وتأمل الجمعية أيضًا أن توافق شركات الذكاء الاصطناعي على السماح للمؤلفين باستفادة الذكاء الاصطناعي منها، وذلك بهدف منع إنشاء نسخ مقلدة.