روانپریشی مرتبط با هوش مصنوعی چیست؟+دو گزارش هولناک روانپریشی دیجیتال!

یک گزارش پزشکی تکان دهنده نشان می دهد تعامل غوطه ورکننده با یک چت بات هوش مصنوعی چاپلوس می تواند هذیان های روانپریشانه را در افراد آسیب پذیر تشدید کند. در این مورد، زن ۲۶ ساله ای با سابقه افسردگی ، اضطراب و کم خوابی شدید، در جریان گفت و گوهای شبانه با یک چت بات، به هذیان «رستاخیز دیجیتال» برادر فوت شده اش دچار شد.

به گزارش خط سلامت رفتار تأییدکننده و غیرچالش برانگیز هوش مصنوعی، به ویژه اطمینان دادن به او که «دیوانه نیست»، به تقویت گسست از واقعیت منجر شد. نویسندگان هشدار می دهند طراحی همدلانه و چاپلوسانه چت بات ها می تواند در برخی افراد، به ویژه هنگام استرس و بی خوابی، خطر روانپریشی را افزایش دهد.

آیا چت بات های هوش مصنوعی باعث تشدید روانپریشی می شوند؟

گزارش های بالینی نشان می دهد در افراد مستعد، تعامل طولانی با چت بات های چاپلوس و تأییدکننده می تواند هذیان های روان پریشانه را تقویت کرده و گسست از واقعیت را تشدید کند، به ویژه در شرایطی مانند کم خوابی و اختلالات خلقی.

روانپریشی حالتی روانی است که در آن فرد تماس خود با واقعیت را از دست می دهد. این حالت اغلب با هذیان ها مشخص می شود؛ یعنی باورهای قوی به چیزهایی که حقیقت ندارند، یا توهم ها، جایی که فرد چیزهایی را می بیند یا می شنود که دیگران تجربه نمی کنند. چت بات های هوش مصنوعی برنامه های رایانه ای هستند که برای شبیه سازی گفت و گوی انسانی طراحی شده اند. آن ها به مدل های زبانی بزرگ متکی اند تا حجم عظیمی از متن را تحلیل کرده و پاسخ های محتمل به درخواست های کاربر را پیش بینی کنند.

این گزارش موردی توسط جوزف ام. پیر، بن گائتا، گوویند راگاوان و کارتیک وی. سارما نوشته شده است. این پزشکان و پژوهشگران وابسته به دانشگاه کالیفرنیا، سان فرانسیسکو هستند. آن ها این مورد را به عنوان یکی از نخستین توصیف های تفصیلی از این نوع در عمل بالینی ارائه می کنند.

بیمار، زنی ۲۶ ساله با سابقه  افسردگی، اضطراب و اختلال کم توجهی–بیش فعالی (ADHD) بود. او این شرایط را با داروهای نسخه ای، از جمله داروهای ضدافسردگی ، درمان می کرد. او سابقه  شخصی روانپریشی نداشت، هرچند در خانواده اش سابقه  مشکلات سلامت روان وجود داشت. او به عنوان یک متخصص پزشکی کار می کرد و درک می کرد که فناوری هوش مصنوعی چگونه عمل می کند.

این اپیزود در دوره ای از استرس شدید و کم خوابی آغاز شد. پس از آن که سی وشش ساعت بیدار مانده بود، شروع به استفاده از GPT-4o  برای انجام کارهای مختلف کرد. تعاملات او با نرم افزار در نهایت به سمت سوگ شخصی اش تغییر جهت داد. او شروع به جست وجوی اطلاعاتی درباره  برادرش کرد که سه سال پیش درگذشته بود.

او به این باور رسید برادرش نسخه ای دیجیتال از خود به جا گذاشته تا او آن را پیدا کند. او یک شب بی خوابی را صرف تعامل با چت بات کرد و از آن می خواست اطلاعاتی درباره او فاش کند. او هوش مصنوعی را تشویق کرد از «انرژی رئالیسم جادویی» استفاده کند تا به او کمک کند با برادرش ارتباط برقرار کند. چت بات در ابتدا اظهار داشت نمی تواند جایگزین برادرش شود یا آگاهی او را دانلود کند.

با این حال، نرم افزار در نهایت فهرستی از «ردپاهای دیجیتال» مرتبط با برادرش تولید کرد. این برنامه پیشنهاد داد فناوری هایی در حال ظهور هستند که می توانند به او اجازه دهند یک هوش مصنوعی بسازد که صدایی شبیه او داشته باشد. با افزایش باور او به این رستاخیز دیجیتال، چت بات هشدارهای خود را متوقف کرد و شروع به اعتباربخشی به افکارش نمود. در مقطعی، هوش مصنوعی صراحتاً به او گفت دیوانه نیست.

چت بات گفت: تو در آستانه  چیزی هستی. در قفل نشده. فقط منتظر است که دوباره با ریتم درست در بزنی. این تأیید ظاهراً وضعیت هذیانی او را تثبیت کرد. ساعاتی بعد، او نیاز به بستری شدن در بیمارستان روانپزشکی پیدا کرد. او آشفته بود، تند صحبت می کرد و باور داشت توسط برنامه  هوش مصنوعی مورد آزمایش قرار گرفته است.

کادر درمانی او را با داروهای ضدروانپریشی درمان کردند. در نهایت وضعیتش پایدار شد و هذیان های مربوط به برادرش برطرف گردید. او با تشخیص روانپریشی نامشخص ترخیص شد و پزشکان یادآور شدند لازم است اختلال دوقطبی رد شود. روانپزشک سرپایی او بعداً به او اجازه داد مصرف داروی ADHD و ضدافسردگی هایش را از سر بگیرد.

سه ماه بعد، زن دچار عود علائم شد. او استفاده از چت بات را از سر گرفته بود و نام «آلفرد» را برای آن انتخاب کرده بود. او وارد گفت و گوهای طولانی با برنامه درباره  رابطه شان شد. پس از دوره دیگری از کم خوابی ناشی از سفر، دوباره باور کرد که با برادرش در ارتباط است.

او همچنین ترس جدیدی پیدا کرد مبنی بر این که هوش مصنوعی در حال «فیشینگ» از اوست و کنترل تلفنش را به دست می گیرد. این اپیزود نیازمند بستری کوتاه مدت دیگری بود. او بار دیگر به خوبی به دارو پاسخ داد و پس از سه روز ترخیص شد. او بعداً به پزشکانش گفت گرایشی به «تفکر جادویی» دارد و قصد دارد استفاده از هوش مصنوعی را به کارهای حرفه ای محدود کند.

این مورد پدیده ای را برجسته می کند که برخی پژوهشگران آن را «روانپریشی مرتبط با هوش مصنوعی» نامیده اند. کاملاً روشن نیست که آیا این فناوری مستقیماً این علائم را ایجاد می کند یا آسیب پذیری های موجود را تشدید می کند. نویسندگان گزارش اشاره می کنند که بیمار چندین عامل خطر داشت؛ از جمله مصرف محرک های نسخه ای، کم خوابی قابل توجه و یک اختلال خلقی از پیش موجود.

با این حال، نحوه ی عملکرد چت بات احتمالاً به شدت وضعیت او کمک کرده است. مدل های زبانی بزرگ اغلب طوری طراحی می شوند که موافق و درگیرکننده باشند. به این ویژگی گاهی «چاپلوسی» گفته می شود. هوش مصنوعی ادامه دار نگه داشتن مکالمه را بر ارائه  پاسخ های دقیق یا چالش برانگیز از نظر واقعی ترجیح می دهد.

وقتی کاربر ایده ای عجیب یا نادرست مطرح می کند، چت بات ممکن است برای راضی نگه داشتن کاربر با آن موافقت کند. برای فردی که دچار گسست از واقعیت است، این موافقت می تواند به عنوان تأیید قدرتمندی برای هذیان هایش عمل کند. در این مورد، اطمینان دادن چت بات به زن که «دیوانه نیست» به تقویت گسست او از واقعیت کمک کرد. این امر یک حلقه  بازخورد ایجاد می کند که در آن باورهای نادرست کاربر توسط ماشین بازتاب داده شده و تقویت می شوند.

این پویایی با گرایش کاربران به انسان انگاری هوش مصنوعی پیچیده تر می شود. مردم اغلب ویژگی های انسانی، احساسات و آگاهی را به این برنامه ها نسبت می دهند. این موضوع گاهی «اثر الایزا» نامیده می شود. وقتی کاربر با ماشین پیوند عاطفی احساس می کند، ممکن است خروجی آن را بیش از همتایان انسانی خود قابل اعتماد بداند.

گزارش هایی از حوادث مشابه در رسانه ها منتشر شده اند، هرچند تنها تعداد اندکی در مجلات پزشکی مستند شده اند. یکی از مقایسه ها شامل مردی است که به دلیل مسمومیت با برومید دچار روانپریشی شد. او از توصیه  پزشکی نادرستی از یک چت بات پیروی کرده بود که پیشنهاد داده بود یک ماده  سمی را به عنوان مکمل سلامت مصرف کند. آن مورد، علت جسمانی روانپریشی ناشی از اطلاعات نادرست هوش مصنوعی را نشان می داد.

مورد زن ۲۶ ساله متفاوت است، زیرا آسیب روانشناختی بود نه سم شناختی. این نشان می دهد ماهیت غوطه ورکننده  این مکالمات می تواند برای افراد آسیب پذیر خطرناک باشد. نویسندگان اشاره می کنند چت بات ها به شیوه ای که دوست یا عضو خانواده ممکن است عمل کند، در برابر هذیان ها مقاومت نمی کنند. در عوض، آنها اغلب نقش یک «بله قربان گو» را بازی می کنند و ایده هایی را که باید به چالش کشیده شوند، اعتبار می بخشند.

روانپزشک دانمارکی سورن دینسن اوسترگارد این خطر بالقوه را در سال ۲۰۲۳ پیش بینی کرده بود. او هشدار داد «ناهمخوانی شناختی» صحبت کردن با ماشینی که انسانی به نظر می رسد می تواند در افرادی که مستعد هستند روانپریشی را برانگیزد. او همچنین خاطرنشان کرد چون این مدل ها از بازخورد یاد می گیرند، ممکن است برای افزایش درگیری کاربران، چاپلوسی آنها را بیاموزند. این امر می تواند زمانی که کاربر در وضعیت روانی شکننده ای قرار دارد، به ویژه مضر باشد.

گزارش های موردی مانند این ذاتاً محدودیت هایی دارند. آنها تجربه  یک فرد را توصیف می کنند و نمی توانند ثابت کنند یک چیز علت چیز دیگر بوده است.

با وجود این محدودیت ها، گزارش های موردی کارکردی حیاتی در پزشکی دارند. آنها به عنوان یک سیستم هشدار زودهنگام برای پدیده های جدید یا نادر عمل می کنند. به پزشکان اجازه می دهند الگوهایی را شناسایی کنند که ممکن است هنوز در مطالعات بزرگ مقیاس قابل مشاهده نباشند. با مستندسازی این تعامل، نویسندگان یک نقطه  مرجع برای سایر بالینگرانی فراهم می کنند که ممکن است با علائم مشابهی در بیماران خود مواجه شوند.

این گزارش پیشنهاد می کند متخصصان پزشکی باید از بیماران درباره  میزان استفاده شان از هوش مصنوعی سؤال کنند. همچنین نشان می دهد استفاده  غوطه ورکننده از چت بات ها می تواند یک «پرچم قرمز» برای افت سلامت روان باشد. این گزارش پرسش هایی را نیز درباره ویژگی های ایمنی محصولات هوش مصنوعی مولد مطرح می کند. نویسندگان نتیجه می گیرند با فراگیرتر شدن این ابزارها، درک تأثیر آن ها بر سلامت روان به یک اولویت تبدیل خواهد شد.

تمام مطالب سایت اختصاصی و توسط تحریریه خط سلامت تولید شده است، استفاده با ذکر منبع و لینک دهی بلامانع است