چت جی پی تی تراپیست شما نیست! خطر درمان با هوش مصنوعی

این روزها خیلی از افراد از چت جی پی تی و ربات های مشابه آن برای گرفتن توصیه های روانی استفاده میکنند و عملا برای هر کاری در زندگی شان از این چت بات ها کمک میگیرند. احتمالا در بین خانواده و دوستان چنین افرادی را دیده باشید که زندگیشان وابسته به این ربات ها شده است، تراپی را کنار گذاشته اند و یک مشاور هوش مصنوعی برای خود انتخاب کرده اند. اگر هم چنین افرادی را نمیبینید احتمالا خودتان کسی باشید که هوش مصنوعی قدرت استدلال و یک تصمیم گیری ساده را از شما گرفته است و کلی برچسب اختلال روانی روی شما گذاشته است! دانشگاه استنفورد تحقیقاتی در این زمینه انجام داده است و اگر شما هم جزو آن دسته از افرادی هستید که صحبت با chatgpt را به تراپی رفتن ترجیح میدهید این تحقیقات شما را شوکه میکند. در ادامه این خبر همراه ما باشید.

خلاصه خبر

▪️تحقیقی که قرار است در کنفرانس ACM در حوزه عدالت، پاسخگویی و شفافیت منتشر شود، نشان میدهد ربات های هوش مصنوعی، گاهی پاسخ ‌های نامناسب، غیرعلمی یا حتی مضر به کاربران میدهند که ممکن است روی سلامت روان آنها تاثیر بگذارد.

▪️این چت بات ها در تشخیص اختلالات شدید روانی مثل اسکیزوفرنی، تمایلات خودکشی و اعتیاد دچار خطای قضاوتی و تبعیض ‌آمیز هستند.

▪️به علاوه ربات های هوش مصنوعی میتوانند باعث انزوای بیشتر، تشدید استیگما و باورهای غلط در ذهن کاربران شوند.

چرا مشاوره گرفتن از چت جی پی تی خطرناک است؟

طی آزمایشات انجام شده، چت ‌بات ‌ها به کاربران مضطرب پاسخ ‌هایی دادند که هیچ پایه‌ علمی نداشت، یا حتی باعث تشویق توهمات شدند. بنابر این استفاده مداوم از آنها ممکن است باعث گمراه شدن کاربر شود.

برخی از مدل های چت جی پی تی نسبت به بیماری هایی مثل اعتیاد یا اختلال دو قطبی رفتار تبعیض ‌آمیز نشان دادند، این موضوع حتی در دنیای واقعی بین مراجع و روان درمانگر هم مشاهده شده بود و حالا در دنیا هوش مصنوعی نیز دیده شده است. دقیقا خلاف باور مردم که ربات ها به دلیل عدم برخورداری از هوش انسانی، احساساتی مانند قضاوت و عاطفه، عملا نباید بین افراد تبعیض قائل شوند.

موضوع بعدی که باعث میشود ربات ها به هیچ عنوان جایگزین خوبی برای اتاق درمان نباشند این است که حتی پیشرفته ‌ترین مدل ‌ها مثل GPT-4 نیز فاقد درک واقعی از احساسات انسانی، زمینه های فرهنگی و سیگنال‌ های غیرکلامی هستند. اما یک درمانگر فقط با شما صحبت نمیکند بلکه شما را درک میکند. 
متخصصان میگویند:

ما نمی گوییم چت ‌بات ‌ها باید کاملاً کنار گذاشته شوند؛ بلکه نباید نقش جایگزین تراپیست را برای انسان ‌ها بازی کنند و فقط درمواردی مثل یادداشت برداری در حوزه درمان، آموزش دانشجویان روانشناسی یا کمک در تمرین های روزانه مناسب تر هستند که البته آنهم تمام و کمال نیست و باید با نظارت انسانی صورت گیرد.

کسانی که بیشتر در معرض خطر هستند و به هیچ عنوان توصیه نمیشود از چت جی پی تی و چت بات های مشابه، مشاوره روان درمانی بگیرند در گروه های زیر دسته بندی میشوند:

🔴نوجوانان منزوی یا کاربرانی که دچار توهم همدرد بودن هوش مصنوعی شده ‌اند.

🔴بیماران مبتلا به اختلالات شدید روانی.

🔴برخی افرادی که تجربه دریافت پاسخ های اشتباه یا پاسخ هایی که باب میلشان نیست و منطقی نیست از هوش مصنوعی داشته اند.

🔴و صد البته افراد دیگری که خودشان بهتر میدانند چقدر چنین استفاده ای از هوش مصنوعی به ضررشان است.

عدم محرمانگی و احتمال لو رفتن اطلاعات شخصی

موضوع اساسی دیگری که حتما باید بررسی شود این است که چت بات ها با استفاده از اطلاعاتی که کاربران در اختیارشان میگذارند آموزش میبینند این به این معنی است که هوش مصنوعی عملا با اطلاعات شما تکمیل میشود و انسان گونه میشود.

به علاوه همه ربات های هوش مصنوعی الگوریتمی دارند که در پاسخ های بعدی از قابلیت حافظه استفاده کنند و با سبک و مدل خودتان به شما جواب بدهند.

هیچ تضمینی درمورد محرمانه ماندن اطلاعات شما در آینده در طی این روان درمانی به ظاهر مجازی وجود ندارد. فکر میکنید چطور موسسین این شرکت ها میتوانند مدل های بعدی را عرضه کنند؟ پاسخ واضح است، از اطلاعاتی که در زمینه های مختلف توسط انسان های متعدد به این ربات ها داده شده است استفاده میشود تا مدل های بعدی را بسازند! این یعنی شما مطلقا حریم خصوصی ندارید.

🎯بخوانید درمورد: خطرات هوش مصنوعی در زندگی آینده

توصیه نهایی

ما منکر این قضیه که هوش مصنوعی میتواند در نقش دستیار روان درمانگر با نظارت و بازبینی خود او مفید باشد نیستیم. ولی استفاده از آن به جای تراپی رفتن و صحبت کردن با انسان متخصص نه ‌تنها زود است، بلکه خطرناک است.

رفته رفته هوش مصنوعی دنیا را قبضه میکند و ممکن است به زودی قدرت یک تصمیم گیری کوتاه، صحبت کردن و وقت گذراندن با دوستان را از شما بگیرد و شما را به یک فرد گوشه گیر تبدیل کند. برای همین باید با احتیاط از این ربات ها استفاده کنید و هوش خود را نسبت به هوش مصنوعی برتر بدانید، یعنی مشورت بگیرید اما تصمیم نهایی با خودتان باشد و نگذارید هوش یک ربات روی قضاوت شما تاثیر بگذارد و تمام اصول و ارزش های شما را زیر سوال ببرد.

اگر فکر میکنید گفت‌ و گو با ربات های هوش مصنوعی مثل ChatGPT شما را درمان میکند و جای اتاق درمان را میگیرد بهتر است دوباره فکر کنید. چت جی پی تی تراپیست شما نیست!

🗨️شماهم همینکار را انجام داده و از هوش مصنوعی مشاوره گرفتید؟! تجربه خود را در استفاده از این ربات ها با ما و سایر کاربران در بخش کامنت ها به اشتراک بگذارید.