يزداد استخدام الناس لـ ChatGPT لطلب المساعدة في العلاج النفسي والاستشارات الشخصية، ولكن يُعد ذلك غير آمن تمامًا. أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن المحادثات التي تجريها مع ChatGPT لا تتمتع بنفس سرية المحادثات مع معالج نفسي حقيقي، خاصة إذا تم رفع دعوى قضائية ضد الشركة. ففي حالة رفع دعوى، قد تُطالب المحكمة بنظر في محتوى هذه المحادثات، وهو أمر يثير القلق لأنه لا توجد حماية قانونية تحصل عليها من خلال الحديث مع الذكاء الاصطناعي، على عكس ما يحدث مع المعالجين النفسيين الحقيقيين، الذين يتمتعون بامتياز قانوني يحمي خصوصية مريضهم. علّق ألتمان على أن هذا يمثل وضعًا مخيفًا، خاصة وأن الكثير من المستخدمين، وبشكل خاص الشباب، يلجؤون إلى ChatGPT كبديل لعلاج نفسي أو للاستشارة في العلاقات والمواضيع الشخصية. وأضاف أن شركة OpenAI يمكنها، بموجب سياسات حفظ البيانات، قراءة المحادثات المخزنة، حيث يتم حذفها بعد 30 يومًا إلا إذا كانت هناك أسباب قانونية أو أمنية تستدعي الاحتفاظ بها. على عكس خدمات المراسلة المشفرة مثل واتساب، التي تضمن سرية تامة للمحادثات، تظل محادثات ChatGPT قابلة للقراءة من قبل الشركة، مما يضع المستخدمين في وضع غير آمن عند مشاركة معلومات حساسة أو شخصية.