Пользователи против ИИ: почему сотрудники раздражаются от советов, сгенерированных искусственным интеллектом

Тема пришла из обсуждения на Reddit: пользователи r/sysadmin жалуются на то, что их коллеги и руководители стали приносить им советы, сгенерированные ИИ, вместо того, чтобы разбираться в проблеме самостоятельно. Этот пост набрал тысячи голосов и комментариев, что говорит о том, что проблема действительно актуальна.

Как это вообще началось

Ситуация проста: сотрудники используют инструменты типа Microsoft Copilot, которые предлагают решения проблем на основе имеющихся данных. Однако эти решения часто не учитывают специфику конкретной компании или ситуации, что приводит к предложениям, которые либо не работают, либо даже опасны.

Сотрудники, которые годами работают с системами и понимают их нюансы, раздражаются от того, что им предлагают решения, которые они сами уже давно знают или которые не подходят для их конкретной задачи.

Что говорят люди в комментариях

«Проблема в том, что ИИ дает ответы на основе того, что он знает. Без знания всех деталей конкретной среды он не может дать полное решение» — пользователь PrincipleExciting457.

Другие комментаторы сравнивают это с ситуацией, когда люди начинают «докторить» себя, найдя информацию в интернете, не понимая контекста и нюансов своей болезни.

Почему это важно

Эта ситуация подчеркивает необходимость понимания того, что ИИ — это инструмент, который может помочь, но не заменить человеческое понимание и опыт. Сотрудники и руководители должны научиться критически оценивать предложения, сгенерированные ИИ, и не слепо следовать им.

Анализ рынка: что уже существует

В России

• Yandex.Toloka — платформа для сбора и标注 данных для тренировки ИИ-моделей, но не решает напрямую проблему сотрудников.
• Открытые источники — существует множество онлайн-ресурсов и курсов, которые учат критически оценивать информацию и использовать ИИ-инструменты эффективно.

За рубежом

• AI Alignment Forum — платформа для обсуждения проблем, связанных с безопасностью и эффективностью ИИ.
• LessWrong — сообщество, которое фокусируется на рациональном мышлении и критической оценке информации, включая ту, которая генерируется ИИ.

Незакрытая ниша: нет русскоязычного ресурса, который бы помогал сотрудникам и руководителям эффективно работать с ИИ-инструментами и критически оценивать получаемую информацию.

Читайте также

• Менеджер потерял самообладание из-за тикета: что происходит, когда сотрудники не понимают, куда обращаться
• Марк Цукерберг и Meta: проблемы с авторскими правами при обучении ИИ
• Реальность искусственного интеллекта: почему разработчики устают от AI-хайпа