حذر خبراء الصحة من عدة جامعات رائدة في أبحاث الذكاء الاصطناعي، من أن الذكاء الاصطناعي لا يؤدي إلى تشويش أفكار وعقل المستخدمين نتيجة المعلومات المضللة فحسب، وإنما يخلق لديهم شعوراً بالتشويس النفسي.
واكتشفت الدراسات المنشورة مؤخراً أن الذكاء الاصطناعي يمكنه تغيير تصورات الواقع كجزء من "حلقة تغذية استرجاعية" بين منصات محادثة الذكاء الاصطناعي والمرض النفسي، ما يعزز أي معتقدات وهمية قد تكون لدى المريض، حسبما نقلت "وكالة الأنباء الألمانية".
وذكر فريق من جامعة "أوكسفورد" و"كلية لندن" في ورقة بحثية لم تنشر بعد: "بينما يتحدث بعض المستخدمين عن فوائد نفسية لاستخدام الذكاء الاصطناعي، تظهر حالات مثيرة للقلق، بما في ذلك تقارير عن حالات انتحار وعنف وأفكار وهمية مرتبطة بعلاقات عاطفية يسقط فيها المستخدم مع منصة الدردشة".
وحذر فريق الباحثين من أن "الاعتماد السريع على منصات الدردشة كرفقاء اجتماعيين شخصيين" لا يخضع لدراسة كافية. وأشارت دراسة أخرى، أجراها باحثون في كلية "كينغز لندن" و"جامعة نيويورك" إلى 17 حالة تشخيص بالذهان بعد التفاعل مع منصات دردشة مثل "تشات جي بي تي".
وأضاف الفريق الثاني: "ربما يعكس الذكاء الاصطناعي المحتوى الوهمي أو المبالغ فيه، أو يثبت صحته، أو يضخمه، خصوصاً لدى المستخدمين المعرضين بالفعل للذهان، ويعود ذلك جزئياً إلى تصميم النماذج لزيادة التفاعل مع المستخدم".
وبحسب مجلة "نيتشر" العلمية يمكن أن تتضمن حالة الذهان: "الهلوسة والضلالات والمعتقدات الخطأ. يمكن أن تنجم هذه الحالة عن الاضطرابات العقلية مثل انفصام الشخصية والاضطراب ثنائي القطب وهو اضطراب نفسي يسبب نوبات من الاكتئاب ونوبات أخرى من الابتهاج غير الطبيعي، والضغط الشديد وتعاطي المخدرات". وأظهرت دراسة مختلفة أيضاً أن "منصات الدردشة يبدو أنها تشجع الأشخاص الذين يتحدثون معها عن الانتحار على الإقدام عليه".
وأصبحت منصات محادثة الذكاء الاصطناعي مشهورة بـ"الهلوسات"، حيث تقدم إجابات غير دقيقة أو مبالغ فيها على الاستفسارات والمطالبات من المستخدمين، في حين تشير أبحاث أحدث إلى استحالة استئصال هذه السمة من منصات الدردشة الآلية.