ChatGPT складає психологічний профіль кожного користувача: що з'ясували вчені

Чат-боти створюють детальні "цифрові портрети" своїх користувачів, запам’ятовуючи особисту інформацію заради максимально персоналізованого спілкування. Дослідники попереджають, що така персоналізація становить серйозну загрозу конфіденційності.

До такого висновку дійшла міжнародна група вчених із Німеччини, Індії та Нідерландів. Вони дослідили, як ChatGPT зберігає інформацію із листувань та використовує її для створення психологічних профілів людей. Результати дослідження було представлено на конференції ACM Web Conference 2026.

У сучасному цифровому світі персоналізація давно стала звичним явищем: інтернет-сервіси збирають дані про користувачів, щоб пропонувати їм відповідну рекламу та рекомендації. Однак пам’ять чат-ботів виводить цей механізм на новий рівень. Тепер штучний інтелект отримує особисті відомості безпосередньо з приватних розмов, у яких люди самі розповідають про себе.

Для дослідження фахівці використали архіви листувань 80 реальних користувачів ChatGPT. Вони отримали свої дані завдяки європейському закону про захист персональних даних, який дозволяє запитувати у компаній відомості про себе. У результаті автори виявили 2050 записів у пам’яті чат-бота, пов’язаних із взаємодіями 65 користувачів.

Виявилося, що 96 % збережених спогадів ChatGPT створював самостійно, без прямої участі користувачів. Це означає, що люди практично не контролювали, які саме відомості про них система вирішувала запам’ятати в процесі спілкування.

При цьому записи містили чимало конфіденційної інформації: близько 28% з них включали персональні дані, що підпадають під дію європейського регламенту GDPR, а 52% містили детальні психологічні характеристики користувачів.

"Раніше у платформ була одна мета: продавати вам рекламу та виступати посередником у взаємодії між вами та рекламодавцем. Але тепер вони безпосередньо спілкуються з вами, тому їм може знадобитися дізнатися про вас більше, щоб вести ефективний діалог", – пояснив провідний автор дослідження Абхісек Даш.

Особливо примітно, що ChatGPT іноді зберігає не лише факти, якими людина поділилася безпосередньо, а й власні припущення. Наприклад, один із користувачів попросив ШІ порадити музичні гурти, схожі на Nirvana. Після цього система записала, що людина любить Nirvana. Хоча користувач цього не говорив, ChatGPT самостійно зробив такий висновок на підставі запиту.

У дослідження є й певні обмеження. Зокрема, з моменту збору даних OpenAI встигла оновити механізм пам’яті ChatGPT. У січні 2026 року компанія представила досконалішу систему, яка здатна узагальнювати та зберігати спогади користувачів. Крім того, люди можуть відмовитися від використання функції пам’яті, вимкнувши збереження таких відомостей.

При цьому дослідники не заперечують практичну користь персоналізації. Наприклад, людині, яка регулярно використовує ChatGPT для роботи, не доводиться щоразу пояснювати чат-боту свою посаду, обов’язки та вподобання під час складання електронних листів. Але накопичення особистих даних може не тільки покращувати відповіді, а й посилювати залежність користувачів від штучного інтелекту.

Головний автор дослідження також звертає увагу на те, що подібні технології можуть створювати умови для формування нездорової прив’язаності до чат-ботів. Вже відомі випадки так званого ШІ-психозу, коли тривале спілкування з ChatGPT та іншими ботами супроводжувалося розвитком маревних переконань у людей.

За словами Даша, додаткова небезпека полягає в тому, що люди дедалі частіше сприймають чат-ботів не просто як інструменти, а як співрозмовників, друзів, колег і навіть експертів, яким можна довірити особисті проблеми. У результаті нейромережа отримує доступ до інформації, якою користувачі зазвичай діляться лише з близькими людьми.

"У цьому й полягає ризик для конфіденційності: меж більше немає. Система виступає в ролі вашого радника, друга, лікаря та юриста, тому володіє інформацією практично про всі сфери життя", – заявив науковець.

Він також попереджає, що якщо штучний інтелект добре знає переконання людини і при цьому прагне постійно погоджуватися з нею, підтверджуючи її погляди заради подальшого спілкування, наслідки можуть виявитися серйозними. Серед можливих ризиків дослідник називає посилення політичної поляризації, закріплення забобонів та поширення упереджених переконань.

УНІАН писав, що компанії, які працюють у сфері ШІ, готуються до масштабної катастрофи, яка може статися вже в найближчі 6 місяців. Як базовий сценарій розглядають велику кібератаку, яка може порушити роботу банків, інтернету або навіть систем електропостачання.

Раніше стало відомо, що помилка ШІ ледь не призвела до війни між США та Китаєм навесні 2026 року. Аналітик Пентагону надто довірився висновкам нейромережі під час аналізу даних.

Вас також можуть зацікавити такі новини:

• Вартість Google впала на $500 млрд: компанія пережила найбільший обвал в історії
• "Нас чекає свій Чорнобиль": хрещений батько ШІ попередив про майбутню катастрофу
• Через бум ШІ дата-центри почали скуповувати старі газові турбіни та авіадвигуни