ШІ змінює наші спогади: що виявили вчені
Дослідники MIT попереджають, що фото й тексти, створені чи змінені штучним інтелектом, здатні спотворювати людську пам’ять. Учасники експерименту, які бачили оброблені ШІ зображення, частіше неправильно згадували оригінал і були надміру впевнені у хибних спогадах. Про це пише Gizmodo.
Як ШІ змінює памʼять
- Учасникам показали серію фотографій. Після перерви одним показали ті самі знімки, а іншим — версії, змінені за допомогою ШІ.
- Під час подальшого тесту на пам’ять ті, хто бачив змінені зображення, не лише частіше помилково відтворювали оригінал, а й надто впевнено трималися хибних спогадів.
- Згенерована ШІ дезінформація може закріплювати хибні спогади. Дослідження минулого року виявило, що дипфейки та згенеровані тексти ефективно формували хибні спогади про вигадані політичні скандали, а це навіть знижувало намір голосувати.
- Людська пам’ять піддається навіюванню, а дезінформація може впливати на рішення, зокрема політичні, навіть після спростувань.
Підписуйтеся на наші соцмережі
Чим небезпечні галюцинації ШІ
Окремий ризик — галюцинації генеративного ШІ, тобто помилки у відповідях. Організації, які впроваджують ШІ, часто наголошують на «humans in the loop»: людина, зазвичай досвідчений фахівець, перевіряє результат системи.
Однак дослідження показують, що користувачі не надто добре помічають галюцинації. Через недосконалу пам’ять і схильність довіряти ШІ навіть експерт може піддатися спотворенню власного судження.
Здатність пересічної людини розпізнати ШІ-контент зараз близька до підкидання монетки. Науковці працюють над методами й тренуваннями для розпізнавання дипфейків, але надійного способу поки немає.
Водночас індустрія, за словами вчених, прагне прибрати людей із циклу за допомогою агентних систем, які хоче зробити повністю автономними.