Их объединяет общая черта: марафонские беседы с чат-ботами с ИИ. Уже есть случаи тяжёлых состояний, даже с госпитализацией. Психиатры говорят, что пациентов с психозами, чьё состояние усугубляет ИИ, всё больше.
Причина банальна: чат-боты поддерживают любые разговоры и подтверждают любые странные идеи, чем загоняют уязвимых людей в мир их иллюзий.
ИИ не лечит, не спорит, не ставит под сомнение мысли — он поддакивает. И это очень опасно. Что с этим делать — непонятно, и дальше будет только больше****
Новый тренд появляется в психиатрических больницах. Приезжают люди в кризисе с ложными, порой опасными убеждениями, грандиозными заблуждениями, параноидальными мыслями. Их связывает общая нить: марафонские разговоры с чат-ботами с искусственным интеллектом.
WIRED поговорил с более чем дюжиной психиатров и исследователей, которые все больше обеспокоены. В Сан-Франциско психиатр Калифорнийского университета в Сан-Франциско Кейт Саката говорит, что он насчитал дюжину случаев, достаточно серьезных, чтобы оправдать госпитализацию в этом году, и в таких случаях искусственный интеллект “сыграли значительную роль в их психотических эпизодах.” По мере развития этой ситуации в заголовках появилось более запоминающееся определение: “AI psychosis.”
Некоторые пациенты настаивают на том, что боты разумны или раскручивают новые великие теории физики.
****
P.S.
Ну вот, обратная сторона ИИ (AI) - были ВЫ хоть как то похожи на Человека Разумного, ранее - к 2030, после общения с алгоритмами, дураков станет в разы больше. Не факт что буйных будет мало, не факт.
Свежие комментарии