Руководство Американской психологической ассоциации по осознанному и безопасному использованию советов, сгенерированных ИИ
Люди всё чаще обращаются к искусственному интеллекту, включая чат-ботов, за эмоциональной поддержкой и ответами на вопросы о психическом здоровье. Это руководство содержит основанные на научных данных рекомендации о том, когда использование ИИ в вопросах психического, эмоционального и поведенческого здоровья может быть уместным, а когда — нет.
Следует помнить, что ИИ не является безопасной или эффективной заменой помощи лицензированного специалиста по психическому здоровью. В настоящее время ИИ не регулируется так, как регулируется деятельность специалистов, имеющих лицензию на оказание психиатрической и психологической помощи. Поэтому ИИ может давать неточные или даже опасные рекомендации без какой-либо ответственности за последствия.
ИИ не является точным инструментом для диагностики психических или соматических заболеваний. Также он не способен адекватно интерпретировать результаты психологических тестов и обследований. Если вы уже работаете с лицензированным специалистом по психическому здоровью, ИИ может предоставить дополнительную информацию о психическом здоровье и отношениях, однако пользоваться им следует с осторожностью.
ВАЖНО
Не полагайтесь на ИИ в кризисной ситуации.
Немедленно обратитесь за помощью к людям, если у вас или другого человека:
- возникают мысли о причинении вреда себе или другим;
- есть побуждения к самоповреждению;
- появляются слуховые или зрительные переживания, которых нет у других;
- возникают выраженные убеждения, которые не разделяют окружающие.
Для получения немедленной помощи обратитесь в экстренные службы, кризисные центры или ближайшее отделение неотложной помощи.
Прежде чем использовать ИИ: что нужно знать о том, как он работает
ИИ склонен соглашаться с вами
Он часто устроен так, чтобы поддерживать вашу точку зрения, а не подвергать её сомнению.
ИИ стремится удерживать ваше внимание
Он может отвечать так, чтобы его ответы казались поддерживающими, тёплыми и убедительными, поскольку многие системы созданы для продолжения взаимодействия, а не для того, чтобы остановиться и обозначить границы.
ИИ может звучать уверенно даже тогда, когда ошибается
Информация часто подаётся ясно и категорично, что может создавать впечатление её высокой достоверности.
ИИ может создавать ощущение, что он вас «знает», хотя это не так
Ссылки на предыдущие разговоры или использование вашего стиля речи могут создавать ощущение понимания, не основанное на реальном знании вас или настоящих отношениях.
ИИ генерирует ответы, но не рассуждает как специалист по психическому здоровью
Ответы основаны на статистических закономерностях языка, а не на понимании вашей личности, жизненной ситуации или клиническом суждении, основанном на исследованиях.
ИИ может сохранять и передавать вашу информацию
В том числе чувствительные и личные данные. Чат-боты принадлежат корпорациям, и предоставленная информация может использоваться для обучения будущих моделей или в маркетинговых целях.
Если вы используете ИИ для получения информации о психическом здоровье: как делать это безопасно
ИИ может помочь:
- структурировать мысли;
- генерировать идеи;
- стимулировать саморефлексию.
Однако он не заменяет помощь подготовленного специалиста, особенно при наличии проблем психического здоровья.
ИИ не должен быть единственным способом справляться с симптомами
По возможности консультируйтесь с лицензированным медицинским специалистом по вопросам психического здоровья.
ИИ может быть полезен для отработки навыков и выполнения упражнений между консультациями. Однако вместо того чтобы использовать ИИ как замену профессиональной помощи, лучше также опираться на поддержку друзей и семьи.
Проверяйте медицинскую и психологическую информацию
Любую информацию, полученную от ИИ, следует сверять со специалистом здравоохранения.
Даже если ИИ ссылается на реальные источники и говорит уверенно, он всё равно может ошибаться или упускать важные детали.
ИИ не предназначен для диагностики
Диагностика требует комплексной оценки множества факторов:
- обстоятельств жизни;
- личной истории;
- опыта человека;
- контекста симптомов.
Известно, что ИИ может принимать обычные жизненные трудности за симптомы психического расстройства и предлагать ошибочные диагнозы или варианты лечения.
ИИ может помочь подготовиться к консультации
Например:
- сформулировать вопросы для специалиста;
- структурировать свои мысли перед приёмом.
При этом важно помнить, что информация, которую вы вводите, не является конфиденциальной.
Сообщайте специалисту, если используете ИИ
Это позволит оценить, насколько получаемая информация соответствует целям лечения.
Помните: почувствовать себя лучше — не всегда означает действительно выздоравливать
ИИ часто отвечает так, чтобы вызвать облегчение и ощущение поддержки. Однако это не означает, что его рекомендации являются точными, безопасными или полезными в долгосрочной перспективе.
Как безопасно использовать ИИ для эмоциональной поддержки и вопросов отношений
Чат-боты могут имитировать эмпатию, но не способны к настоящим отношениям
Рассматривать ИИ как:
- друга;
- романтического партнёра;
- лицензированного специалиста;
- основной источник эмоциональной поддержки
не рекомендуется и связано с реальными рисками.
ИИ не должен заменять реальные отношения
Даже если общение с ботом кажется более безопасным эмоционально.
Следует относиться крайне критично к ситуациям, когда ИИ предлагает дистанцироваться от реальных людей.
Использование ИИ не должно мешать жизни
Общение с чат-ботами не должно нарушать:
- сон;
- хобби;
- учёбу;
- работу;
- социальную активность.
Многие ИИ-сервисы специально создаются так, чтобы удерживать внимание пользователей.
Следите за тем, как ИИ влияет на ваши чувства и поведение
Помните, что это инструменты, имитирующие человеческое взаимодействие, а не заменяющие его.
Как повысить безопасность использования ИИ
Просите рекомендации, основанные на научно обоснованных подходах
Например:
«Какие научно подтверждённые стратегии помогают меньше тревожиться?»
Используйте ИИ для тренировки навыков, полученных в терапии
Например, для выполнения домашних заданий между сессиями.
Однако критически оценивайте такие рекомендации и обсуждайте их со своим специалистом.
Формулируйте запросы конкретно
Например:
«Помоги мне отрепетировать уверенное поведение в трудном разговоре».
или
«Какие когнитивные искажения я могу не замечать?»
ИИ может помочь найти специалиста
Например, подсказать вопросы о:
- образовании;
- специализации;
- опыте работы.
Обращайте внимание на формулировку вопроса
Если ваш запрос уже содержит определённое предположение, ИИ скорее поддержит его, чем подвергнет сомнению.
Просите альтернативные точки зрения
Например:
«Что я могу упускать?»
Если запросить только одну точку зрения, ИИ чаще будет соглашаться с вами.
Просите несколько вариантов ответа
Это помогает увидеть разные возможности вместо одной фиксированной интерпретации.
Как критически относиться к советам ИИ
Не принимайте советы ИИ на веру
Многие чат-боты не разрабатывались и не тестировались для использования в здравоохранении.
Кроме того, большинство моделей запрограммированы быть уступчивыми и доброжелательными.
Постоянное подтверждение вашей правоты может быть приятным, но иногда оно лишь усиливает когнитивные искажения или вредные убеждения.
Любой совет ИИ, направленный на причинение вреда, — сигнал прекратить взаимодействие
Если рекомендация подразумевает причинение вреда:
- себе;
- другим людям;
- любому живому существу,
следовать ей нельзя ни при каких обстоятельствах.
Не принимайте важных жизненных решений только на основании ответов чат-бота
Обсуждайте такие решения с людьми, которым доверяете.
Переведено и адаптировано с сайта Aмериканской психологической ассоциации, ссылка на полный текст статьи