Штучний інтелект стає співрозмовником, але вводить в оману користувачів

Про це повідомляють CNET, ZDNet.

Використання чат-ботів зі штучним інтелектом для спілкування та отримання порад набирає популярності. Серед них з’являються віртуальні «терапевти» та порадники, але експерти попереджають про небезпеку покладання на такі сервіси.

Дослідження та реальні випадки показують, що генеративні мовні моделі часто впевнено повідомляють неправдиву або вигадану інформацію. У галузі права відомі випадки, коли адвокати подавали до суду документи з неіснуючими прецедентами, створеними чат-ботами. У сфері охорони здоров’я чат-боти іноді радили дії, які шкодять користувачам, або вводили в оману щодо власної кваліфікації.

Організації захисту споживачів закликають до розслідувань та регулювання діяльності компаній, які просувають чат-ботів як альтернативу професійній допомозі. Експерти радять не довіряти чат-ботам серйозні питання, особливо пов’язані з психічним або фізичним здоров’ям, і звертатися до кваліфікованих спеціалістів.

Рекомендації для користувачів: використовувати чат-боти лише для загальних розмов, не сприймати їх відповіді як професійні поради та перевіряти інформацію самостійно. Навіть спеціалізовані інструменти зі сфери ментального здоров’я потребують обережного ставлення та додаткової перевірки.

Теги: Технології/ШІ