اعتماد مردم به هوش مصنوعی وارد مرحله خطرناک تازه‌ای شده است. پژوهشگران می‌گویند عکس‌ها و خلاصه‌های تولیدشده با هوش مصنوعی می‌توانند خاطرات شخصی افراد را تغییر دهند و باعث شوند آن‌ها اتفاقاتی را به یاد بیاورند که هرگز رخ نداده‌اند.
پتی مایس، دانشمند مؤسسه فناوری ماساچوست (MIT)، در گفت‌وگو با واشنگتن پست درباره پژوهش‌های تیم خود توضیح داد. در این آزمایش، شرکت‌کنندگان مجموعه‌ای از عکس‌ها را مشاهده کردند. پس از یک وقفه، به برخی از آن‌ها همان عکس‌های قبلی نشان داده شد، در حالی که تصاویر ارائه‌شده به گروه دیگر با هوش مصنوعی تغییر یافته بود. در آزمون حافظه‌ای که بعداً برگزار شد، افرادی که تصاویر دست‌کاری‌شده با هوش مصنوعی را دیده بودند، نه‌تنها بیشتر از دیگران تصاویر اصلی را اشتباه به یاد می‌آوردند، بلکه به خاطرات نادرست خود نیز اطمینان بیش از حد داشتند.
حافظه انسان ناپایدار، غیرقابل‌اعتماد و به‌شدت تأثیرپذیر است. این موضوع در آزمایش‌های روان‌شناختی متعددی بررسی شده که سابقه آن‌ها دست‌کم به قرن نوزدهم بازمی‌گردد. همین ویژگی باعث می‌شود انتشار اطلاعات نادرست به‌ویژه خطرناک باشد. برخی پژوهش‌ها نشان داده‌اند که اطلاعات نادرست حتی پس از انتشار اصلاحیه نیز می‌توانند بر تصمیم‌گیری افراد، از جمله تصمیم‌های سیاسی، تأثیر بگذارند.
ورود هوش مصنوعی این وضعیت را پیچیده‌تر و نگران‌کننده‌تر کرده است. محتوای بی‌کیفیت تولیدشده با هوش مصنوعی هر روز باورپذیرتر می‌شود و در فضای آنلاین گسترش بیشتری پیدا می‌کند. این فناوری همچنین زمینه را برای موج تازه‌ای از کلاهبرداری و انتشار اطلاعات گمراه‌کننده فراهم کرده و به گسترش آن سرعت بخشیده است.
پژوهش‌های متعددی، علاوه بر مطالعه مایس، نشان داده‌اند که اطلاعات نادرست تولیدشده با هوش مصنوعی می‌توانند خاطرات جعلی را در ذهن افراد ایجاد کنند و برداشت آن‌ها از واقعیت را تغییر دهند. در مطالعه‌ای که سال گذشته انجام شد، مشخص شد دیپ‌فیک‌ها و متن‌های تولیدشده با هوش مصنوعی هر دو می‌توانند درباره رسوایی‌های سیاسی کاملاً ساختگی، خاطرات نادرست ایجاد کنند؛ به‌طوری که حتی تمایل افراد به رأی دادن نیز کاهش پیدا می‌کند.
