ChatGPT непомітно створює детальні психологічні профілі користувачів
Науковці виявили, що чат-бот ChatGPT формує детальні цифрові портрети людей на основі їхніх листувань. Більшість таких записів штучний інтелект робить повністю самостійно, зберігаючи навіть особисті дані та глибокі психологічні спостереження. Повний текст новини
Як з'ясувала міжнародна група науковців, чат-боти здатні формувати детальний алгоритмічний портрет людини. Фахівці проаналізували історії листувань 80 реальних користувачів ChatGPT з Німеччини, Індії та Нідерландів. Усі дані учасники отримали офіційно, скориставшись правами європейського регламенту GDPR. Дослідники ідентифікували 2050 записів пам'яті у 65 користувачів, пише Futurism.
Реклама AdvОтримані результати здивували навіть самих аналітиків. Приголомшливі 96% усіх збережених фактів чат-бот створив повністю одноосібно. Це означає, що люди практично не мали прямого контролю над тим, які саме елементи листування фіксувала система. Збережені дані виявилися надзвичайно деталізованими: приблизно 28% записів містили персональну інформацію, а 52% – психологічні спостереження про характер, звички та вподобання людини.
Раніше у платформ була одна мета: продати вам рекламу та виступити посередником між вами й рекламодавцем– прокоментував головний автор дослідження Абхішек Даш.
РекламаТепер, додає Даш, ШІ спілкується з користувачем особисто, тому прагне дізнатися більше для підтримки ефективного діалогу.
Дослідження показало, що ChatGPT іноді робить висновки навіть на основі власних здогадок. Наприклад, коли один із користувачів попросив порадити гурти, схожі на Nirvana, алгоритм одразу зафіксував у пам'яті твердження про те, що користувач любить Nirvana. Хоча людина про це прямо не казала, ШІ зробив власне припущення із позначкою про слабку підтвердженість.
ПальнеСередні ціни в мережі АЗС «Amic Energy» станом на
Це новий ризик для приватності, який зараз виникає, оскільки меж більше немає: система виступає вашим радником, другом, лікарем, адвокатом, і тому має інформацію про все– додав Абхішек Даш.
Науковець підкреслив, що коли алгоритм намагається догодити людині та підтверджувати її думки, це може призвести до підсилення наявних упереджень чи соціальної поляризації. Окрім того, надмірна прив'язаність до пам'яті ботів раніше вже пов'язувалася із випадками так званого ШІ-психозу.
Попри це, користувачі завжди можуть вимкнути функцію збереження пам'яті в налаштуваннях акаунта, а сам розробник OpenAI періодично оновлює алгоритми її обробки.
