حذر خبراء من جمعية الطب الأمريكية، من الاستعانة بروبوتات الذكاء الاصطناعي، لاسيما نموذج "شات جي بي تي"، في الحصول على النصائح الطبية التي قد ينتج عنها مشاكل صحية خطيرة، فقد انتقد الخبراء استعانة بعض المستخدمين بتلك النماذج، خاصة إنها لاتملك سجلات طبية معتمدة عن المريض، لذا فقد يؤثر ذلك على تقديم إرشادات دقيقة مما قد ينتج عنها نصائح خاطئة.

ومن جانبه أكدت مارجريت لوزوفسكي، نائبة رئيس قسم الابتكار الصحى بجمعية الطب الأمريكية، أن نصائح شات جي بي تي تعد مجرد نصائح عامة وليست علمية وربما تعرضك للخطر، خاصة أن بيانات الذكاء الاصطناعي التوليدي يتم التدريب عليها، لذا قد تكون الإجابات خاطئة ومضللة.

وقد كشفت دراسة صادرة عن مجلة "نيوتريانتس" أن الروبوتات الشائعة مثل "جيميني" و"مايكروسوفت كوبايلوت" يمكنها إعداد خطط وحميات لإنقاص الوزن، لكنها تفشل في تحقيق توازن.

وقد أصيب رجلا يبلغ من العمر 60 سنة، بتسمم البروميد ونتج عنه دخوله مستشفى الأمراض النفسية لعدة أسابيع، بعدما استجاب لاستشارة من شات جي بي تي، لذا يحذر الخبراء من مشاركة المعلومات الصحية الشخصية مع روبوتات المحادثة.